Beberapa tahun kebelakangan ini, industri AI terlalu ghairah membina model yang lebih bijak, prompt yang lebih baik dan aplikasi berasaskan AI. Walaupun ini mempercepat inovasi, ia juga melahirkan cabaran baharu. Apabila organisasi melaksanakan AI secara besar-besaran, masalah terbesar bukan lagi model itu sendiri. Cabaran sebenar ialah bagaimana AI diorkestrasi, diurus dan disepadukan ke dalam operasi harian.
Setiap permintaan AI yang tidak perlu akan memakan sumber GPU, meningkatkan kos operasi, menambah keperluan tenaga dan memperkenalkan kelewatan yang boleh dielakkan. Ramai proses perniagaan tidak memerlukan penaakulan maju. Tugas seperti parsing, pengesahan, penghalaan, pengiraan dan pembuatan keputusan berstruktur biasanya bersifat deterministik dan boleh diselesaikan dengan lebih cekap tanpa memanggil LLM.
Ini membangkitkan soalan kejuruteraan penting: sebelum bertanya "Model AI manakah yang patut melakukan tugasan ini?", lebih baik kita tanya dahulu "Adakah tugasan ini sebenarnya memerlukan AI?". Jawapannya memberi kesan besar kepada kos, kebolehpesanan, keselamatan dan kemapanan.
Saya percaya AI perusahaan kini memasuki fasa baharu di mana kejayaan akan bergantung bukan pada penggunaan model paling berkuasa, tetapi pada reka bentuk seni bina pemprosesan yang betul. Sistem deterministik, penghalaan pintar, infrastruktur AI tempatan, lapisan pengesahan dan AI awan masing-masing mempunyai kekuatan tersendiri. Masa depan milik organisasi yang tahu menggabungkan teknologi ini secara cekap, bukannya menghantar setiap permintaan kepada LLM.
Pendekatan seni bina ini juga memperkukuhkan kedaulatan data, meningkatkan tadbir urus, mengurangkan kos infrastruktur dan mencipta sistem yang lebih mudah untuk diaudit dan diperluas skala. Dalam banyak situasi, menggunakan kurang AI - tetapi dengan lebih bijak - boleh menghasilkan hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di setiap tempat.
Pemikiran ini mengubah cara kami merancang pelaksanaan di AINNA. Sebagai pasukan perancangan dan operasi, kami melihatnya seperti sistem penghalaan di lantai kilang: bukan setiap kerja perlu melalui mesin paling canggih, tetapi kerja yang sesuai perlu dirancang, dipisahkan, dan dihantar ke lapisan pelaksanaan yang paling berpatutan - sama ada pemprosesan deterministik, penaakulan AI tempatan, atau perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Syarikat AI perusahaan generasi seterusnya mungkin tidak akan dikenali kerana membina model paling bijak. Sebaliknya, mereka mungkin dikenali kerana membina infrastruktur paling pintar di sekelilingnya. Dalam jangka panjang, infrastruktur - bukan model itu sendiri - boleh menjadi kelebihan daya saing sebenar.
