Dari sudut perancangan pengeluaran dan operasi di AINNA, babak dalam The Matrix Reloaded di mana Neo berbual dengan Oracle tentang program mencipta program, program memadam program, dan program beroperasi dalam peraturan amat menggambarkan cabaran kami hari ini: bagaimana memastikan agen AI, LLM, dan detached system bekerja dengan teratur dan boleh dipercayai di dunia nyata.
Dalam perancangan operasi kami, kami menyelaras detached system yang sesetengahnya dikawal sepenuhnya oleh parameter, sesetengah dibantu oleh model AI biasa, dan sesetengah lagi dikuasakan oleh LLM premium untuk penaakulan mendalam, perancangan, dan pembinaan sistem. Ada sistem direka untuk berjalan secara autonomi, manakala yang lain dipandu oleh lapisan AI yang membantu mentafsir input, membuat keputusan operasi, dan memperkemas aliran kerja.
Semakin lama saya menyelaras projek ini, semakin jelas: model AI bersendirian tidak menjamin sistem berguna. Ia baru menjadi aset operasi apabila disambungkan kepada alat, memori, kebenaran, log, gelung maklum balas, isyarat input/output, dan akses penghantaran. Barulah detached system melangkaui sekadar mengikut arahan dan mula menyokong keputusan harian di lantai operasi.
Dalam istilah praktikal: program mencipta program, program mengaudit program, program memperbaiki program, dan pada satu peringkat model itu sendiri boleh didaftar masuk terus ke dalam sistem. Ini menjadi lebih menarik apabila sistem dihantar ke peranti edge seperti Raspberry Pi, di mana ia menerima input dunia nyata dan mencetuskan output untuk menyokong jentera moden, sensor, peranti, atau peralatan operasi.
Tetapi di sinilah tadbir urus menjadi kritikal. Risiko sebenar bukanlah AI menjadi hidup. Risiko sebenar adalah memberi agen terlalu banyak akses tanpa audit, pintu kelulusan, had keselamatan, rollback, kawalan manual, dan akauntabiliti yang jelas. Apabila AI mula menyentuh sistem sebenar, keselamatan dan kawalan tidak boleh dianggap sebagai perkara tambahan - ia mestinya sebahagian daripada perancangan awal.
Bagi saya, seni bina yang sesuai untuk operasi bukannya satu otak AI raksasa yang mengawal segala-galanya. Ia lebih menyerupai struktur organisasi: agen pekerja mengendalikan tugas berulang, agen penyelia menyemak output, agen perancang mereka aliran kerja, agen pengaudit mengesan kesilapan, agen pelaksana mengenakan perubahan yang diluluskan, dan agen pentadbir mengawal kebenaran serta keselamatan.
Inilah arah yang saya percaya operasi AI akan bergerak, terutamanya untuk perniagaan Malaysia: bukan sekadar chatbot, tetapi sistem autonomi berstruktur dengan peranan jelas, kuasa terkawal, penghantaran edge, dan akauntabiliti yang boleh diukur. Soalan utamanya bukan lagi sama ada AI boleh membantu kita membina sistem. Soalan sebenarnya adalah berapa banyak kuasa yang boleh kita berikan dengan selamat kepada sistem yang boleh membantu memperbaiki, mengawal, atau mencipta sistem lain.
#AI #AgentAI #Automation #LLM #EdgeAI #RaspberryPi #DetachedSystem #SystemDevelopment #BusinessAutomation #Ainna #DigitalTransformation
