Dari sudut operasi, beberapa tahun kebelakangan ini industri AI sibuk membuat model lebih pintar, prompt lebih baik dan lebih banyak aplikasi berkuasa AI. Walaupun ini mempercepat inovasi, ia juga melahirkan masalah baharu. Apabila organisasi-termasuk perniagaan di Malaysia-mula melancarkan AI secara besar-besaran, masalah utama bukan lagi pada model itu sendiri. Cabaran sebenar ialah bagaimana AI diorkestrasi, diurus tadbir dan disepadukan ke dalam kerja harian.
Setiap permintaan AI yang tidak perlu menghabiskan sumber GPU, meningkatkan kos operasi, menambah beban tenaga dan memperkenalkan latensi yang boleh dielakkan. Dalam banyak proses perniagaan, kita sebenarnya tidak memerlukan reasoning yang kompleks. Tugas seperti parsing, validasi, routing, pengiraan dan pembuatan keputusan berstruktur kebanyakannya bersifat deterministik, dan boleh diselesaikan lebih cepat serta murah tanpa memanggil LLM.
Ini membawa kepada soalan penting dari sudut operasi: sebelum bertanya "Model AI manakah yang harus lakukan tugas ini?", mungkin kita perlu tanya dahulu "Adakah tugas ini sebenarnya memerlukan AI?". Jawapannya memberi kesan besar kepada kos, kebolehskalaan, keselamatan dan kelestarian.
Saya lihat AI perusahaan kini memasuki fasa baharu di mana kejayaan bukan lagi bergantung pada model paling berkuasa, tetapi pada reka bentuk seni bina pemprosesan yang betul. Sistem deterministik, routing pintar, infrastruktur AI tempatan, lapisan pengesahan dan cloud AI masing-masing ada kekuatan tersendiri. Masa depan milik organisasi yang tahu menggabungkan teknologi ini secara cekap, bukannya menghantar setiap permintaan kepada LLM.
Pendekatan seni bina ini juga mengukuhkan kedaulatan data, meningkatkan tadbir urus, mengurangkan kos infrastruktur dan menghasilkan sistem yang lebih mudah diaudit dan diskalakan. Dalam banyak kes, menggunakan AI yang lebih sedikit-tetapi dengan lebih bijak-boleh memberi hasil operasi yang lebih baik berbanding memaksimumkan AI di mana-mana sahaja.
Di AINNA, pemikiran ini mengubah cara kami merancang penyelesaian. Daripada hanya membina produk berasaskan AI, kami turut melabur dalam seni bina orkestrasi yang memisahkan beban kerja secara bijak, mengasingkan pemprosesan deterministik daripada reasoning AI, menghantar setiap tugas ke lapisan pelaksanaan yang paling sesuai, dan menyokong pemasangan AI tempatan yang selamat bersama perkhidmatan cloud. Matlamatnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak dikenang kerana membina model paling pintar. Sebaliknya, mereka mungkin dikenali kerana membina infrastruktur paling bijak di sekelilingnya. Dalam jangka panjang, infrastruktur-bukan model itu sendiri-boleh menjadi kelebihan daya saing yang sebenar.
