Bukan AI Paling Besar Yang Kita Perlukan, Tapi Infrastruktur AI Yang Pintar Untuk Operasi E-dagang
Hari ini, kita sudah ada asas utama pertama: satu Detached System yang matang, berjalan di atas arkitektur LAMP-based. Prinsip saya mudah - bukan setiap tugas dalam operasi e-dagang perlukan LLM. Validasi order, peraturan promo, rekonsiliasi stok dan SKU, kawalan aliran kerja, logik berulang dan banyak keputusan operasi harian boleh ditangani di luar model.
Dalam tempoh enam bulan lepas, walaupun platform keseluruhan masih separuh siap, kami sudah bina lebih kurang 250 Detached Systems. Kos pembangunan keseluruhan hanya kurang USD200, termasuk eksperimen, pendekatan gagal, ujian berulang dan banyak silap. Bagi saya, ini bukti sistem perniagaan yang berguna - terutamanya untuk operasi marketplace dan inventori - tak semestinya perlukan modal besar.
Lapisan kedua yang sedang dibangunkan ialah modded AI agent dengan keupayaan Smart Routing. Berbanding menghantar setiap tugas automatik ke model paling besar yang ada, sistem ini direka supaya sentiasa mengenal pasti LLM terkecil dan paling murah yang boleh menyiapkan setiap tugas secara boleh harap.
Logiknya terus terang: tugas mudah → model kecil, tugas sukar → model kuat, tak perlu kecerdasan → Detached System. Matlamatnya bukan sekadar kurangkan penggunaan token, tapi menjadikan infrastruktur AI mampan dari segi kos - guna kecerdasan hanya di tempat yang betul-betul memerlukannya.
Lapisan ketiga pula ialah specialised LLM models milik sendiri, direka khas untuk berfungsi bersama Detached Systems kita. Kami sedang bereksperimen dengan 7 open-source LLM models sebagai asas. Hugging Face akan menjadi sebahagian daripada ekosistem teknologi kami, menyokong akses kepada ekosistem model open-source, dataset, alat latihan dan infrastruktur.
Tapi tiga perkembangan ini sebenarnya bertujuan kepada sesuatu yang lebih besar. Kami nak jadikan pembangunan sistem itu sendiri boleh diakses oleh pemilik SME biasa, terutamanya perniagaan yang tak ada bajet besar, GPU sendiri, pasukan IT atau sumber teknikal.
Suatu hari nanti, makcik yang jual pisang goreng tepi jalan pun boleh jadi pembangun sistem untuk perniagaan sendiri. Dia cuma perlu cakap, “Urus stok saya, kira untung harian, pantau harga bahan, ingat pelanggan tetap dan bagitahu bila masa nak beli pisang lagi,” dan agent itu akan bantu rangka sistem di belakangnya.
Arah kami jelas: Detached System → Smart Routing → Lowest Suitable LLM → Specialised Own LLM → Pembangunan Sistem Berbantu AI untuk Semua. Kos minimum ialah matlamat terdekat. Percuma adalah impian. Kami tak cuba bina AI paling besar; kami cuba buat AI dan pembangunan sistem jadi cukup kecil, cukup murah dan cukup mudah supaya SME paling kecil pun boleh bina dengannya.
#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastructure #SmartRouting #DetachedSystem #SME #SystemDevelopment #Automation
