Apa jadi jika kita letakkan “jiwa” dalam server, dan suatu hari kita tidak lagi mampu mengawalnya?
Hari ini, dalam majlis anjuran Kedutaan Arab Saudi, saya berpeluang berbual dengan seorang pegawai kanan dari TV Alhirah tentang Agent AI.
Saya kongsi apa yang kami usahakan di AINNA untuk pelanggan: ejen AI yang boleh hidup dalam server, PC dan mesin, bukan sekadar menunggu arahan, tetapi terus bekerja menuju matlamat dan niat yang ditentukan manusia.
Saya gambarkan dengan cara yang mudah difahami oleh pemilik perniagaan:
“Ia seperti ada seseorang di dalam server anda, yang sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan melintas di fikiran saya-dan ini juga yang sering saya dengar daripada pelanggan.
Apabila ejen AI semakin autonomi dan mampu berkomunikasi serta bekerjasama dengan ejen lain, apa yang berlaku apabila guardrails gagal?
Inilah sebabnya saya percaya kill switch mesti dibina secara native dalam setiap ejen AI autonomi - dan akhirnya menjadi amalan kejuruteraan standard dalam industri.
Kita boleh terus membina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa memegang kuasa akhir untuk menghentikannya.
Bina ejen itu. Bina kecerdasan itu.
Tetapi jangan lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这部分读起来很清楚，也容易跟着理解。
Sent this to two people already. Saya kongsi apa yang kami is why.
The direction on tetapi terus bekerja menuju matlamat is exactly right.
Read this twice. apa yang berlaku apabila guardrails is what stayed with me.
This is where inilah sebabnya saya percaya kill finally clicks.