Dari perspektif operasi logistik dan pembangunan sistem, beberapa tahun kebelakangan ini industri AI terlalu tertumpu pada pembinaan model yang lebih pintar, prompt yang lebih baik, dan aplikasi yang dikuasakan AI. Walaupun ini mempercepatkan inovasi, ia juga melahirkan cabaran operasi baharu. Apabila organisasi menerapkan AI secara besar-besaran, masalah terbesar bukan lagi model itu sendiri, tetapi bagaimana AI diorkestrasikan, ditadbir urus, dan disepadukan ke dalam aliran kerja harian.
Setiap permintaan AI yang tidak perlu akan menggunakan sumber GPU, meningkatkan kos operasi, menjana permintaan tenaga tambahan, dan menyumbang kepada kelewatan yang boleh dielakkan. Banyak proses perniagaan sebenarnya tidak memerlukan penaakulan lanjutan. Tugas seperti penghuraian, pengesahan, penghalaan, pengiraan, dan pembuatan keputusan berstruktur seringkali bersifat deterministik dan dapat diselesaikan dengan lebih cekap tanpa memanggil LLM.
Ini menimbulkan satu soalan kejuruteraan yang penting: sebagai ganti bertanya "Model AI manakah yang harus menjalankan tugas ini?", mungkin kita harus bertanya dahulu "Adakah tugas ini sebenarnya memerlukan AI?". Jawapannya memberi implikasi besar terhadap kos, skala, keselamatan, dan kemampanan.
Saya berpendapat AI perusahaan sedang memasuki fasa baharu di mana kejayaan akan bergantung bukan semata-mata pada penggunaan model paling berkuasa, tetapi pada reka bentuk seni bina pemprosesan yang tepat. Sistem deterministik, perutean pintar, infrastruktur AI tempatan, lapisan pengesahan, dan AI awan masing-masing mempunyai kekuatan berbeza. Masa depan milik organisasi yang mampu menggabungkan teknologi ini secara cekap, bukannya menghantar setiap permintaan ke LLM.
Pendekatan seni bina ini juga mengukuhkan kedaulatan data, meningkatkan tadbir urus, mengurangkan kos infrastruktur, dan mencipta sistem yang lebih mudah diaudit dan diperkemaskan. Dalam banyak kes, penggunaan AI yang lebih sedikit - sambil menggunakannya dengan lebih bijak - boleh menghasilkan hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di mana-mana.
Cara berfikir ini telah mempengaruhi hala tuju usaha kejuruteraan kami di AINNA. Bukannya memfokuskan diri semata-mata pada pembinaan produk yang dikuasakan AI, kami telah melabur dalam seni bina orkestrasi yang menyegmentasikan beban kerja secara pintar, memisahkan pemprosesan deterministik daripada penaakulan AI, menyalurkan setiap tugas ke lapisan pelaksanaan yang paling sesuai, dan menyokong penempatan AI tempatan yang selamat bersebelahan dengan perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak akan dikenang kerana membina model paling pintar. Sebaliknya, mereka mungkin diiktiraf kerana membina infrastruktur paling pintar di sekelilingnya. Dalam jangka panjang, infrastruktur - bukan model itu sendiri - boleh menjadi kelebihan daya saing sebenar.
