Sejak beberapa tahun kebelakangan, industri AI terlalu terpesona dengan pembinaan model yang lebih pintar, prom yang lebih baik dan lebih banyak aplikasi berkuasa AI. Walaupun ini mempercepat inovasi, ia turut melahirkan cabaran baharu. Apabila organisasi menerapkan AI secara meluas, masalah terbesar sudah bukan pada model itu sendiri. Cabaran sebenar terletak pada bagaimana AI diorkestrasikan, ditadbir urus dan disepadukan ke dalam operasi harian-termasuk di gudang dan pusat pemenuhan kami.
Setiap panggilan API AI yang tidak perlu akan memakan sumber GPU, meningkatkan kos operasi, menambah permintaan tenaga dan memperkenalkan latensi yang boleh dielakkan. Dalam persekitaran logistik, banyak proses perniagaan tidak memerlukan penaakulan AI yang kompleks. Tugas seperti penguraian data pesanan, pengesahan SKU, penghalaan bungkusan, pengiraan inventori dan pembuatan keputusan berstruktur biasanya bersifat deterministik-boleh diselesaikan dengan lebih cekap tanpa perlu memanggil model bahasa besar (LLM).
Ini menimbulkan satu soalan kejuruteraan yang penting: bukannya bertanya "Model AI manakah yang harus menjalankan tugas ini?", lebih baik kita bertanya dahulu "Adakah tugas ini benar-benar memerlukan AI?". Jawapannya memberi kesan besar terhadap kos, kebolehpenskalaan, keselamatan dan kelestarian operasi.
Saya percaya AI perusahaan sedang memasuki fasa baharu di mana kejayaan tidak lagi bergantung pada penggunaan model paling berkuasa, tetapi pada reka bentuk seni bina pemprosesan yang betul. Sistem deterministik, penghalaan pintar, infrastruktur AI tempatan, lapisan pengesahan dan AI awan masing-masing mempunyai kekuatan tersendiri. Masa depan milik organisasi yang tahu menggabungkan teknologi ini secara cekap-bukannya menghantar setiap permintaan ke LLM.
Pendekatan seni bina ini juga mengukuhkan kedaulatan data, memperbaiki tadbir urus, mengurangkan kos infrastruktur dan membina sistem yang lebih mudah diaudit serta diskalakan. Dalam banyak situasi logistik, menggunakan AI lebih sedikit-tetapi dengan lebih bijak-boleh menghasilkan outcome operasi yang lebih baik berbanding memaksimumkan penggunaan AI di setiap titik proses.
Pemikiran ini telah mengetuai hala tuju usaha pembangunan sistem kami di AINNA. Bukannya hanya membangunkan produk berkuasa AI, kami sedang melabur dalam seni bina orkestrasi yang membahagikan beban kerja secara pintar, memisahkan pemprosesan deterministik daripada penaakulan AI, menghala setiap tugas ke lapisan pelaksanaan yang paling sesuai, dan menyokong penyebaran AI tempatan yang selamat di samping perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak akan dikenang kerana membina model paling pintar. Sebaliknya, mereka mungkin diiktiraf kerana membina infrastruktur paling pintar di sekelilingnya. Dalam jangka panjang, infrastruktur-bukan model itu sendiri-boleh menjadi kelebihan daya saing sebenar, terutamanya dalam operasi logistik yang kompleks dan berterusan.
