Bukan AI Besar Yang Kita Kejar, Tapi Infrastruktur AI Yang Operasi Boleh Jalan✎ Edit

Bukan AI Besar Yang Kita Kejar, Tapi Infrastruktur AI Yang Operasi Boleh Jalan.

Kalau tanya saya, apa yang kita dah capai sekarang - sistem Detached kita dah matang, jalan atas arkitektur LAMP. Prinsip operasi kita mudah: bukan semua benda kena hantar ke LLM. Kerja-kerja macam validation, business rules, reconciliation, workflow control, logic berulang dan banyak keputusan operasi, kita uruskan luar model.

Dalam tempoh enam bulan lepas, walaupun platform keseluruhan masih separuh jalan, kita dah bina lebih kurang 250 Detached Systems. Kos pembangunan semuanya tak sampai USD200, termasuk eksperimen gagal, test ulang-alik dan banyak silap. Untuk kami di operasi, ini bukti praktikal - sistem perniagaan yang berguna tak semestinya perlukan modal besar.

Lapisan kedua yang kita tengah siapkan sekarang ialah AI agent yang kita mod dengan kemampuan Smart Routing. Sistem ini tak akan auto-hantar semua tugas ke model paling besar. Dia akan pilih LLM paling kecil dan paling murah yang masih boleh buat kerja tu dengan betul.

Logiknya direct: kerja mudah → model kecil, kerja susah → model kuat, tak perlu AI → Detached System. Bukan setakat jimat token, tapi nak pastikan infrastruktur AI ni mampan dari segi kos - guna kecerdasan buatan hanya bila betul-betul perlu.

Lapisan ketiga pula ialah LLM khas milik sendiri, direka untuk bekerjasama rapat dengan sistem Detached kita. Kita tengah eksperimen dengan 7 model LLM open-source sebagai asas. Hugging Face akan masuk dalam ekosistem teknologi kita, bagi akses kepada model open-source, dataset, training tools dan infrastruktur sokongan.

Tapi semua ni bukan sekadar teknikal. Objektif besar kita ialah memudahkan pemilik SME biasa jadi pembangun sistem sendiri, terutama yang tak ada dana banyak, GPU, pasukan IT atau sumber teknikal.

Suatu hari nanti, makcik jual pisang goreng tepi jalan pun boleh jadi system developer untuk perniagaan sendiri. Dia cakap je, "Jaga stok saya, kira untung harian, pantau harga bahan, ingat pelanggan tetap dan bagitahu bila masa nak beli pisang lagi," dan agent tu akan tolong bina sistem di belakang.

Arah kita jelas: Detached System → Smart Routing → Lowest Suitable LLM → Specialised Own LLM → AI-Assisted System Development untuk semua orang. Kos minimum adalah matlamat terdekat. Percuma adalah impian. Kita tak nak bina AI paling besar; kita nak jadikan AI dan pembangunan sistem ni kecil, murah dan mudah sampai SME terkecil pun boleh guna.

#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastructure #SmartRouting #DetachedSystem #SME #SystemDevelopment #Automation