Bagaimana jika kita letak satu “nyawa” dalam server, dan satu hari nanti kita dah tak boleh kawal dia lagi?✎ Edit

Bagaimana jika kita letak satu “nyawa” dalam server, dan satu hari nanti kita dah tak boleh kawal dia lagi?

Hari ini, dalam satu majlis anjuran Kedutaan Saudi, saya ada peluang berbual dengan seorang pegawai kanan dari TV Alhirah tentang Agent AI.

Saya kongsikan apa yang kami sedang usahakan di AINNA: agen AI yang boleh “duduk” dalam server, PC dan mesin - bukan sekadar menunggu arahan, tetapi bekerja berterusan menuju matlamat dan niat yang manusia sendiri tetapkan.

Saya gambarkan secara mudah, macam saya jelaskan sesuatu kepada operator di gudang:

“Macam kita ada seorang staf yang duduk dalam server, kerja tanpa henti untuk kita.”

Dalam perjalanan balik, satu lagi fikiran melintas.

Bila agen AI makin autonomi dan boleh berkomunikasi serta berkolaborasi dengan agen lain, apa jadi bila guardrail gagal?

Sebab itu saya percaya kill switch mesti dibina secara native dalam setiap agen AI autonomi - dan akhirnya jadi amalan kejuruteraan standard seluruh industri.

Dalam logistik, kita tak pernah biarkan mesin atau proses berjalan tanpa laluan henti kecemasan. Setiap konveyor ada butang emergency stop. Setiap aliran penghantaran ada prosedur rollback. Prinsip yang sama perlu kita bawa masuk ke dalam AI.

Kita boleh terus bina AI yang lebih berkemampuan dan lebih autonomi.

Tetapi manusia mesti sentiasa pegang kuasa akhir untuk hentikannya.

Bina agen itu. Bina kecerdasan itu.
Tapi jangan sesekali lupa kill switch.

#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA