OPERASI AI ATAS PERMINTAAN - MODEL RINGAN MENGUBAH INFRASTRUKTUR✎ Edit

Satu peralihan yang saya perhatikan dengan teliti ialah kebangkitan model AI yang ringan tetapi berkemampuan seperti DeepSeek V4 Flash. Selama bertahun-tahun, automasi infrastruktur kebanyakannya mengikut satu corak: jika sesuatu perlu dijalankan secara berulang, kami membina mekanisme kekal di sekelilingnya - systemd, cron, daemon, supervisor, proses terasing atau timbunan pemantauan khusus. Seni bina itu masih penting untuk kebolehpercayaan tahap pengeluaran, tetapi tidak setiap tugas operasi memerlukan infrastruktur kekal.

Untuk pemantauan pelayan sementara, pemerhatian penggunaan, migrasi, pengesahan sandaran, siasatan insiden atau tetingkap penyelenggaraan pendek, ejen AI semakin boleh beroperasi sebagai lapisan pintar sementara. Model ini tidak menggantikan pemantauan deterministik. Ia menambah tafsiran kontekstual. Daripada hanya melaporkan “CPU 91%”, ejen boleh mengaitkan lonjakan CPU, tingkah laku kontena, ralat aplikasi, tamat masa pangkalan data dan respons HTTP 503, kemudian menerangkan apa yang mungkin berlaku sebelum jurutera campur tangan.

Bagi saya, perbezaan ini semakin jelas: sistem terasing menyediakan lapisan kebolehpercayaan, manakala ejen AI ringan menyediakan lapisan tafsiran dan tindakan atas permintaan. Kadang-kadang keperluan hanya wujud untuk 30 minit akan datang, dua jam atau satu kitaran penggunaan. Dalam kes tersebut, membina perkhidmatan kekal atau peraturan automasi yang lain mungkin tidak perlu.

Di sinilah ekonomi SME menjadi menarik. Perniagaan kecil mungkin tidak wajar untuk menambah platform pemantauan lain, infrastruktur tambahan atau tenaga kerja teknikal khusus untuk tugas operasi sekali-sekala. Jika ejen ringan boleh mengendalikan pemantauan sementara, triage log dan diagnosis peringkat pertama menggunakan infrastruktur sedia ada, kos setiap tugas operasi menurun. Satu pasukan teknikal berpotensi menyelia lebih banyak pelayan, lebih banyak pelanggan dan lebih banyak penggunaan tanpa meningkatkan tenaga kerja pada kadar yang sama.

Itu secara langsung mengubah ekonomi unit untuk penyedia infrastruktur AI. Pelanggan yang membayar RM100 atau RM300 sebulan sukar untuk dilayan jika setiap insiden memerlukan masa kejuruteraan manual. Tetapi jika pemerhatian rutin dan diagnosis awal boleh dikendalikan pada kos inferens marginal yang rendah, manakala jurutera manusia hanya fokus pada pengecualian, model menjadi lebih berskala. Hasil boleh berkembang lebih cepat daripada kos operasi.

Ini bukan tentang menggantikan kejuruteraan infrastruktur dengan AI. Ia tentang menjadikan infrastruktur lebih adaptif, kurang geseran, dipacu niat dan berskala ekonomi.

Saya melihat ini muncul sebagai kategori operasi baharu: Operasi AI Atas Permintaan.

Kelebihan infrastruktur seterusnya mungkin tidak datang daripada menyebarkan lebih banyak sistem kekal. Ia mungkin datang daripada mengetahui tugas mana yang tidak lagi memerlukan satu - dan berapa banyak itu mengubah kos untuk melayani setiap pelanggan.

#AIOps #AIAgents #DeepSeek #Infrastructure #DevOps #Automation #LocalAI #EnterpriseAI #SME #UnitEconomics