Mengapa Masa Depan Enterprise AI Tidak Bergantung pada Satu Large Language Model Sahaja✎ Edit

Dalam perbincangan saya dengan pemilik perniagaan Malaysia, satu andaian sering muncul:

Pilih Large Language Model paling berkuasa, sambungkan ke data perniagaan, dan gunakannya untuk segala-galanya.

Pendekatan ini mungkin sesuai untuk eksperimen awal.

Namun, ia kecil kemungkinannya untuk kekal cekap pada skala enterprise sebenar.

Perniagaan tidak hanya menghadapi satu jenis masalah.

Antaranya:

• aliran kerja berulang

• transaksi berstruktur

• pengestrakan dokumen

• pemeriksaan pematuhan

• komunikasi pelanggan

• penyelarasan kewangan

• pemantauan operasi

• pembuatan keputusan kompleks

Setiap tugas mempunyai keperluan yang berbeza.

Sesetengah memerlukan penaakulan lanjutan.

Yang lain pula memerlukan kelajuan, konsisten, privasi, ketepatan deterministik atau kos yang sangat rendah.

Ramai tugas tidak memerlukan Large Language Model langsung.

Menggunakan model besar untuk mengesahkan tarikh, menyemak baki atau mengekstrak medan yang dikenali seringkali tidak perlu. Ia meningkatkan kos, kelewatan dan pergantungan tanpa mencipta nilai yang setimpal.

Arkitektur enterprise yang lebih kukuh - seperti yang kami bina bersama pelanggan di AINNA - akan menggabungkan beberapa komponen:

• peraturan perniagaan deterministik

• penghurai khusus

• Small Language Models

• Large Language Models

• sistem pengambilan semula

• enjin aliran kerja

• pengesahan bebas

• kelulusan manusia

Lapisan yang paling kritikal ialah Penghalaan Pintar.

Sebelum memproses sesuatu tugas, sistem perlu menilai kerumitannya, risiko, ketepatan yang diperlukan, sensitiviti data dan kos.

Tugas rutin boleh ditangani oleh sistem ringan.

Tugas yang kabur atau kompleks boleh dinaik taraf ke model yang lebih berkemampuan.

Output berisiko tinggi perlu disahkan secara bebas sebelum pelaksanaan.

Ini membawa kepada satu prinsip penting lagi:

Pengawalseliaan AI mesti wujud di luar model.

Sebuah model tidak seharusnya menjana, mengesahkan dan meluluskan outputnya sendiri tanpa kawalan luaran.

Sistem enterprise memerlukan pemeriksaan skema, penyelarasan, keizinan, log audit, had transaksi dan mekanisme penaiktarafan.

Terdapat juga peranan yang semakin besar untuk Sistem Terpisah.

AI boleh mereka bentuk, menganalisis atau mengubah suai aliran kerja, manakala perisian deterministik melaksanakan aliran kerja tersebut secara berterusan tanpa memanggil model setiap kali.

Ini boleh mengurangkan kos inferens, meningkatkan kebolehpercayaan dan menjadikan automasi lebih boleh diramal.

Maka, masa depan enterprise AI bukan satu model universal yang mengawal segala-galanya.

Ia adalah satu sistem yang diselaraskan daripada beberapa sistem.

Model besar akan kekal penting, tetapi ia akan menjadi satu komponen dalam arkitektur yang lebih luas merangkumi penghalaan, pengesahan, pemprosesan pakar dan pelaksanaan bebas.

Pemenang jangka panjang mungkin bukan syarikat yang menggunakan AI paling banyak.

Mereka mungkin adalah syarikat yang menggunakan AI canggih hanya apabila kecerdasan canggih benar-benar diperlukan.

#EnterpriseAI #AIInfrastructure #ArtificialIntelligence #LLM #AIAgents #Automation #DigitalTransformation #SovereignAI #SmartRouting #TechStrategy