Baru-baru ini, saya menonton semula The Matrix Reloaded, terutamanya babak di mana Neo berbual dengan Oracle tentang program yang mencipta program, program yang memadam program, dan program yang beroperasi mengikut peraturan. Tiba-tiba babak itu terasa sangat relevan dengan apa yang sedang saya bina dalam persekitaran sistem nyata bersama agen AI, LLM, dan sistem berasingan (detached systems).
Kini, saya terlibat secara langsung dalam pembinaan sistem detached di mana sebahagian daripadanya dikawal sepenuhnya oleh parameter, sebahagian lagi dibantu oleh model AI biasa, dan sebahagian besar menggunakan LLM premium untuk tugas penaakulan mendalam, perancangan, dan pembangunan sistem. Sesetengah sistem direka untuk berjalan secara autonomi, manakala yang lain dipandu oleh lapisan AI yang membantu mentafsir input, membuat keputusan, dan memperbaiki aliran kerja operasi.
Semakin lama saya membina, semakin saya sedar bahawa model AI semata-mata tidak menjadikan sistem itu kuat. Sistem menjadi benar-benar berkuasa apabila model disambungkan kepada alat, memori, kebenaran (permissions), log, gelung maklum balas, isyarat input/output, dan akses peryahantaran (deployment). Pada ketika itu, sistem detached boleh bergerak melepasi sekadar mengikut arahan, dan mula menyokong keputusan operasi sebenar di lapangan.
Dalam istilah mudah: program mencipta program, program mengaudit program, program menambah baik program, dan akhirnya model itu sendiri mungkin didaftar masuk terus ke dalam sistem. Ini menjadi lebih menarik apabila sistem dikerahkan pada peranti edge seperti Raspberry Pi, di mana ia boleh menerima input dunia nyata dan mencetuskan output untuk menyokong jentera moden, sensor, peranti, atau peralatan operasi di gudang atau pusat pengedaran.
Tetapi di sinilah tadbir urus menjadi kritikal. Risiko sebenar bukanlah AI menjadi hidup. Risiko sebenar ialah memberikan agen terlalu banyak akses tanpa audit, pintu kelulusan, had keselamatan, keupayaan rollback, kawalan manual, dan akauntabiliti yang jelas. Apabila AI mula menyentuh sistem fizikal dan operasi logistik, keselamatan dan kawalan tidak boleh dianggap sebagai perkara tambahan.
Bagi saya, masa depan bukanlah satu otak AI raksasa yang mengawal segala-galanya. Seni bina yang lebih baik lebih menyerupai satu organisasi: agen pekerja mengendalikan tugas berulang, agen penyelia menyemak output, agen perancang mereka aliran kerja, agen pengaudit mengesan kesilapan, agen pelaksana mengenakan perubahan yang diluluskan, dan agen pentadbir mengawal kebenaran serta keselamatan.
Ini adalah arah yang saya percaya operasi AI akan bergerak: bukan sekadar chatbot, tetapi sistem autonomi berstruktur dengan peranan jelas, autoriti terkawal, penempatan edge, dan akauntabiliti yang boleh diukur. Persoalannya bukan lagi sama ada AI boleh membantu kita membina sistem. Persoalan sebenarnya ialah berapa banyak autoriti yang boleh kita berikan dengan selamat kepada sistem yang mampu menambah baik, mengawal, atau malah mencipta sistem lain.
#AI #AgentAI #Automation #LLM #EdgeAI #RaspberryPi #DetachedSystem #SystemDevelopment #BusinessAutomation #Ainna #DigitalTransformation
