Enam tahun lalu, saya masih ingat bagaimana pasukan kami di AINNA membuktikan konsep serupa-menggunakan notebook murah yang menjalankan “chatbot engine” menerusi sambungan Chrome pada Lubuntu.
Sebagai pengasas bersama AINNA, saya melihat perubahan ini dari perspektif pelanggan: bukan sahaja apa yang mampu dibina, tetapi apa yang sebenarnya bermakna untuk perniagaan anda.
Hari ini, anda boleh menyiarkan ribuan instance VPS, masing-masing menjalankan sistem terpisah sendiri dan diuruskan oleh AI agents, dengan kos yang lebih rendah daripada notebook yang kami gunakan enam tahun lalu.
Bayangkan:
USD10–12 setahun untuk satu instance VPS yang mampu menjalankan ratusan sistem terpisah ringan, kebanyakannya microservices PHP.
Sistem ini boleh dibina, dipantau, diselenggara, diuji, dan diuruskan oleh lima jenis AI agents yang berbeza.
Tambah kira-kira USD20–30 sebulan untuk penggunaan LLM, dan keseluruhan infrastruktur boleh beroperasi 24 jam sehari tanpa henti.
Ekonominya menjadi lebih menarik apabila anda sudah memiliki mesin GPU-sesuatu yang banyak dimiliki oleh pemain permainan video.
Jalankan vLLM dengan model LLM tempatan yang berkemampuan, sambungkan instance VPS anda secara selamat, dan kos inferen model anda boleh menjadi hampir sifar selain elektrik dan perkakasan.
VPS murah.
Inferen tempatan.
AI agents autonomi.
Ratusan sistem terpisah.
Operasi berterusan.
Ini bukan lagi sekadar tentang membina chatbot.
Ia tentang mencipta tenaga kerja digital yang diagihkan dan autonomi dengan kos yang amat rendah.
Dan tidak mustahil dalam masa terdekat, pihak yang lebih besar-kerajaan, korporat, mahupun rangkaian jenayah-mula mengubahsuai arkitektur ini untuk tujuan mereka sendiri. Untuk SME Malaysia, ini menjadi peringatan bahawa akses kepada teknologi serupa kini setaraf, tetapi keputusan untuk menggunakannya dengan bertanggungjawab menentukan hasilnya.
Teknologi ini semakin murah.
Persoalan sebenarnya bukan lagi sama ada ia boleh dilakukan.
Persoalannya: adakah perniagaan seperti anda akan mengambil peluang ini dahulu untuk membesar dan memberi nilai kepada pelanggan, sebelum pihak lain menyalahgunakannya?
He he he. Jika anda tertanya-tanya bagaimana pendekatan ini boleh disesuaikan untuk operasi perniagaan anda secara selamat dan berdaya maju, marilah berbincang-kami di AINNA sentiasa di sisi pelanggan.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
tetapi apa yang sebenarnya bermakna is teh part I would forward to my boss.
This is where dan keseluruhan infrastruktur boleh beroperasi finally makes sense.
Honestly, 24 jam se 24 surprised me.
The framing around kira-kira USD20–30 se 20 is better than I expected. Need to read this part again.
I have watched tahun lalu.Bayangkan:USD10–12 setah 12 go wrong in practice. Good to see it written down.
Slightly disagree on bukan sahaja apa yang mampu, but the direction is right.