Tetapi dari perspektif perniagaan - terutamanya syarikat di Malaysia yang ingin menggunakan AI dengan selamat - governance hanya menjadi relevan apabila ia dapat diterjemahkan ke dalam seni bina sistem yang mengawal risiko sebelum sesuatu keputusan dibuat.
Peraturan mungkin memerlukan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting bagi pemilik perniagaan ialah: bagaimana keperluan ini dipastikan sebelum output AI menjadi keputusan operasi yang memberi kesan kepada pelanggan dan proses?
Berdasarkan pembangunan penyelesaian kami di AINNA untuk SME, terdapat tiga komponen seni bina yang penting untuk sistem AI yang boleh dipercayai:
Smart Routing
Tidak semua tugasan perlu dihantar ke model AI yang sama.
Sistem sepatutnya mengklasifikasikan permintaan berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Kemudian, ia menghantar permintaan ke model AI, enjin deterministik, alur kerja berasaskan peraturan atau parser pakar yang paling sesuai.
Ini bermakna risiko diurus dari awal proses - bukan selepas jawapan sudah dijana.
Multiple Specialised Parsers
Parser tunggal mencipta satu titik kegagalan.
Dengan beberapa parser pakar, input yang sama boleh diekstrak dan ditafsir melalui kaedah yang berbeza. Output mereka kemudian dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, mengalihkan atau menanda transaksi tersebut, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
Detached Systems
Model AI tidak sepatutnya bertanggungjawab untuk meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log audit perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menjana. Sistem mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak hanya dikawal di peringkat akhir. Ia dikawal sepanjang alur kerja, dari routing dan parsing sehingga pengesahan dan penerimaan.
Ini bukan bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurung dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga menyokong prestasi ESG yang lebih baik.
Smart Routing menghalang setiap permintaan dihantar ke model yang terbesar dan termahal. Proses deterministik, parser pakar dan model yang lebih kecil boleh mengendalikan tugas yang lebih mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
AI yang boleh dipercayai oleh pelanggan tidak seharusnya bergantung hanya kepada model yang berkuasa.
Ia seharusnya bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Governance wajib wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AIGovernance #ResponsibleAI #AIInfrastructure #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Official Cross-Network Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Ang bahaging ito ang ipapadala ko sa boss ko.
This is where terdapat tiga komponen seni bina finally makes sense.
Good write-up. Sistem sepatutnya mengklasifikasikan alone was worth the read.
Still thinking about peraturan mungkin memerlukan kebolehpercayaan.
Estoy de acuerdo con este artículo y la dirección es clara.
Worth reading just for smart routing tidak semua tugasan.