Kita Tidak Perlu AI Lebih Besar. Kita Perlu Infrastruktur AI yang Pintar dan Terancang.✎ Edit

Kita Tidak Perlu AI Lebih Besar. Kita Perlu Infrastruktur AI yang Pintar dan Terancang.

Dari sudut perancangan dan operasi di AINNA, asas utama pertama kami sudah kukuh: sebuah Detached System yang matang, beroperasi di atas arkitektur berasaskan LAMP. Prinsip kami mudah - bukan setiap tugas memerlukan LLM. Pengesahan, peraturan perniagaan, penyesuaian data, kawalan aliran kerja, logik berulang dan banyak keputusan operasi boleh ditangani di luar model.

Dalam tempoh enam bulan lepas, walaupun keseluruhan platform masih dalam pembinaan, kami sudah dapat hasilkan kira-kira 250 Detached Systems. Jumlah kos pembangunan masih kurang daripada USD200 - sudah termasuk percubaan, pendekatan gagal, ujian berulang dan banyak kesilapan sepanjang perjalanan. Bagi saya, ini bukti bahawa sistem perniagaan yang berguna tidak semestinya memerlukan modal besar.

Lapisan kedua yang sedang aktif dibangunkan ialah ejen AI yang telah diubahsuai dengan keupayaan Smart Routing. Daripada menghantar setiap tugas secara automatik ke model terbesar yang ada, sistem ini direka untuk sentiasa mengenal pasti LLM yang paling kecil dan paling murah, tetapi masih mampu menyelesaikan setiap tugas dengan boleh harap.

Logiknya mudah: tugas ringan → model kecil, tugas sukar → model kuat, tiada keperluan kepintaran → Detached System. Matlamatnya bukan sekadar mengurangkan penggunaan token, tetapi menjadikan infrastruktur AI mampan dari segi ekonomi dengan menggunakan kepintaran hanya di tempat yang benar-benar memerlukannya.

Lapisan ketiga pula ialah model LLM khusus milik sendiri, direka khas untuk bekerjasama dengan Detached Systems kami. Kami sedang menjalankan eksperimen dengan 7 model LLM sumber terbuka sebagai asas bagi kerja ini. Hugging Face akan menjadi sebahagian daripada ekosistem teknologi kami, menyokong akses kepada ekosistem model sumber terbuka, set data, alat latihan dan infrastruktur.

Namun, ketiga-tiga pembangunan ini sebenarnya menuju ke arah satu matlamat yang lebih besar. Kami mahu menjadikan pembangunan sistem itu sendiri mudah diakses oleh pemilik SME biasa, terutamanya perniagaan yang tidak mempunyai bajet yang tidak terhad, kapasiti GPU, pasukan IT atau sumber teknikal yang mencukupi.

Suatu hari nanti, seorang makcik yang menjual pisang goreng tepi jalan pun boleh menjadi pembangun sistem untuk perniagaannya sendiri. Dia hanya perlu berkata, “Urus stok saya, kira untung harian, pantau kos bahan, ingat pelanggan tetap dan beritahu saya bila perlu beli pisang lagi,” dan ejen tersebut akan membantu menyusun sistem di sebaliknya.

Arah kami jelas: Detached System → Smart Routing → LLM Paling Sesuai dan Paling Murah → LLM Khusus Milik Sendiri → Pembangunan Sistem Berbantu AI untuk Semua. Kos minimum adalah objektif terdekat. Percuma adalah impian. Kami bukan sedang berlumba membina AI terbesar; kami sedang berusaha menjadikan AI dan pembangunan sistem cukup kecil, cukup mampu milik dan cukup mudah, sehinggakan SME terkecil pun boleh membina dengannya.

#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastructure #SmartRouting #DetachedSystem #SME #SystemDevelopment #Automation