Sewaktu saya berbual dengan pemilik perniagaan dan pasukan operasi di Malaysia, satu corak mula jelas: ramai yang terpesona dengan kehebatan model AI terkini, prompt yang lebih baik, dan aplikasi bertenaga AI. Walaupun inovasi ini membuka peluang, ia juga membawa realiti baharu-apabila AI dikerahkan secara besar-besaran, masalah terbesar bukan lagi model itu sendiri, tetapi bagaimana AI diorkestrasi, diurus, dan disepadukan dalam operasi harian.
Setiap permintaan AI yang tidak perlu memakan sumber GPU, meningkatkan kos operasi, menambah permintaan tenaga, dan memperkenalkan kelewatan yang boleh dielakkan. Banyak proses perniagaan tidak memerlukan penaakulan lanjut sama sekali. Tugas seperti pengepasan, pengesahan, penghalaan, pengiraan, dan pembuatan keputusan berstruktur seringkali bersifat deterministik, dan boleh diselesaikan dengan lebih cekap tanpa perlu memanggil LLM.
Ini membangkitkan soalan kejuruteraan yang penting: sebelum bertanya "Model AI manakah yang harus menjalankan tugasan ini?", mungkin kita perlu bertanya dahulu "Adakah tugasan ini benar-benar memerlukan AI?". Jawapannya memberi kesan besar terhadap kos, kebolehskalaan, keselamatan, dan kemampanan.
Saya percaya AI perusahaan kini memasuki fasa baharu di mana kejayaan akan bergantung kurang kepada penggunaan model paling berkuasa, dan lebih kepada reka bentuk seni bina pemprosesan yang betul. Sistem deterministik, penghalaan pintar, infrastruktur AI tempatan, lapisan pengesahan, dan AI awan masing-masing ada kekuatan tersendiri. Masa depan milik organisasi yang tahu menggabungkan teknologi ini dengan cekap, bukannya menghantar setiap permintaan kepada LLM.
Pendekatan seni bina ini juga memperkukuh kedaulatan data, memperbaiki tadbir urus, mengurangkan kos infrastruktur, dan menghasilkan sistem yang lebih mudah diaudit dan diskalakan. Dalam banyak kes, menggunakan AI yang lebih sedikit-sambil menggunakannya dengan lebih bijak-boleh menghasilkan hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di mana-mana sahaja.
Cara pemikiran ini telah mempengaruhi arah usaha kejuruteraan kami sendiri. Bukan sahaja menumpukan pada pembinaan produk bertenaga AI, kami juga melabur dalam seni bina orkestrasi yang memisahkan beban kerja secara pintar, memisahkan pemprosesan deterministik daripada penaakulan AI, menghala setiap tugasan kepada lapisan pelaksanaan paling sesuai, dan menyokong penempatan AI tempatan yang selamat bersama perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak akan diingati kerana membina model paling pintar. Sebaliknya, mereka mungkin dikenali kerana membina infrastruktur paling bijak di sekelilingnya. Pada masa panjang, infrastruktur-bukan model itu sendiri-boleh menjadi kelebihan daya saing sebenar.
