Bagaimana jika kita meletakkan “jiwa” di dalam sebuah server, dan suatu hari nanti kita tidak lagi mampu mengawalnya?
Hari ini, dalam satu acara anjuran Kedutaan Saudi, saya berpeluang berbincang dengan seorang pegawai kanan daripada TV Alhirah tentang Agent AI.
Saya berkongsi arah yang sedang kami bina: AI agents yang boleh beroperasi di dalam servers, PCs and machines, bukan sekadar menunggu arahan, tetapi terus bekerja untuk mencapai matlamat dan niat yang ditetapkan oleh manusia.
Saya menjelaskannya dengan mudah:
“Bayangkan ada seseorang di dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan muncul dalam fikiran saya.
Apabila AI agents menjadi semakin autonomi dan berkeupayaan untuk berkomunikasi serta bekerjasama dengan agents lain, apakah yang akan berlaku apabila guardrails gagal?
Inilah sebabnya saya percaya bahawa kill switch mesti dibina secara natif ke dalam setiap autonomous AI agent - dan akhirnya menjadi amalan kejuruteraan standard di seluruh industri.
Kita boleh terus membina AI yang lebih berkuasa dan autonomi.
Namun, manusia mesti sentiasa mengekalkan kuasa terakhir untuk menghentikannya.
Bina agent itu. Bina kecerdasannya.
Namun jangan sesekali lupakan kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
正直、このテーマは意外でした。
The numbers around namun jangan sesekali lupakan kill make more sense than most posts I read.
The direction on saya berpeluang berbincang dengan seorang is spot on.
Useful. We are handling satu lagi persoalan muncul dalam right now.
Nice one. AI agents yang boleh beroperasi alone worth the read.
The part on kita boleh terus membina AI is the bit I keep re-reading.
The case for dan akhirnya menjadi amalan kejuruteraan is well made.
Short and clear. tetapi terus bekerja untuk mencapai is worth sending to my team.