Salah satu tanggapan keliru yang sering saya temui dalam penerapan AI perusahaan, terutamanya di persekitaran operasi logistik dan rantai bekalan, ialah kepercayaan bahawa halusinasi boleh dihapuskan sepenuhnya dengan membina Large Language Model (LLM) yang lebih besar dan lebih berkuasa. Hakikatnya, LLM direka secara probabilistik. Walaupun outputnya mungkin menjadi lebih tepat, kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong sentiasa wujud - ia tidak pernah sifar.
Dari sudut pandang R&D dan operasi logistik di AINNA, soalan yang lebih praktikal bukanlah bagaimana untuk menghapuskan halusinasi sepenuhnya, tetapi mengapa operasi perniagaan kritikal harus bergantung sepenuhnya kepada sistem probabilistik. Masalahnya bukan semata-mata pada model. Ia terletak pada arkitektur yang membenarkan model tersebut menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan yang lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui Detached System yang 100% deterministik. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mencadangkan tindakan, tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti melalui pengesahan bebas sebelum diproses lebih lanjut.
Sebelum sebarang tindakan dilaksanakan, Detached System akan memeriksa peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, keizinan pengguna, polisi keselamatan, syarat aliran kerja serta keperluan audit. Jika mana-mana syarat gagal, sistem akan menghentikan proses atau merujuknya kepada semakan manusia. AI masih mungkin menghasilkan jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai bukan bergantung kepada model bebas halusinasi, tetapi kepada arkitektur yang selamat terhadap halusinasi. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan, serta cadangan daripada kawalan, kita boleh menggunakan kelenturan AI tanpa membenarkan output probabilistik memudaratkan sistem kritikal dalam operasi logistik dan rantai bekalan.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Penjelasan tentang 1 mudah dipahami dan relevan untuk tim kecil.
Clearer than the vendor decks I get about soalan yang lebih praktikal bukanlah.
Salah satu tanggapan keliru yang - that is the whole thing in one line.
I read this twice. Pendekatan yang lebih kukuh ialah is the part that stuck.
Whoever wrote this actually did the work on walaupun outputnya mungkin menjadi lebih.