Bila saya berbual dengan pemilik SME di seluruh Malaysia, satu persoalan sering timbul: bagaimana kita pastikan AI tidak membuat keputusan yang salah untuk perniagaan kita?
Tadbir urus AI sering dibincangkan di peringkat dasar. Tetapi dalam amalan sebenar, ia hanya menjadi berkesan apabila diterjemahkan ke dalam seni bina sistem.
Peraturan mungkin menuntut kebolehpercayaan, kebolehaudit, pemantauan dan pengesahan bebas. Persoalan yang lebih penting ialah bagaimana keperluan ini dilaksanakan sebelum output AI menjadi keputusan perniagaan.
Berdasarkan perjalanan kami di AINNA, tiga komponen seni bina ini menjadi teras utama:
Smart Routing
Bukan setiap tugasan perlu dihantar ke model AI yang sama.
Sistem harus mengelaskan permintaan terlebih dahulu berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Kemudian, ia boleh menghala permintaan ke model AI, enjin deterministik, alur kerja berasaskan peraturan atau parser pakar yang paling sesuai.
Ini bermakna risiko diurus sejak awal proses, bukan hanya selepas jawapan sudah dijana.
Multiple Specialised Parsers
Parser tunggal mencipta satu titik kegagalan.
Pelbagai parser boleh mengekstrak dan mentafsir input yang sama melalui kaedah berbeza. Output mereka kemudiannya boleh dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak selari, sistem boleh menghentikan, menghala semula atau menanda transaksi tersebut-bukan membiarkan hasil yang tidak boleh dipercayai diteruskan tanpa disedari.
Detached Systems
Model AI tidak seharusnya bertanggungjawab untuk meluluskan outputnya sendiri.
Pengesahan, penyelarasan, pagar perlindungan, peraturan perniagaan, penilaian keyakinan dan log audit harus beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menjana. Sistem mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak diurus hanya pada peringkat akhir. Ia dikawal sepanjang aliran kerja, dari penghalaan dan penguraian hingga pengesahan dan penerimaan.
Ini bukan bermakna halusinasi dapat dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikawal dan dihalang daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga boleh menyokong prestasi ESG yang lebih baik.
Smart Routing menghalang setiap permintaan dihantar ke model terbesar dan termahal. Proses deterministik, parser pakar dan model yang lebih kecil boleh menangani tugasan mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
Oleh itu, AI yang boleh dipercayai tidak seharusnya bergantung hanya pada model yang berkuasa.
Ia harus bergantung pada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko sejak awal.
Tadbir urus wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
Itu komitmen kami di AINNA: membina AI yang bukan sahaja pintar, tetapi juga selamat, boleh dipercayai dan mampan untuk perniagaan Malaysia.
#AIGovernance #ResponsibleAI #AIInfrastructure #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Dari Dasar ke Seni Bina: Membina Tadbir Urus AI ke Dalam Sistem untuk SME Malaysia
