Di peringkat operasi, kami sedang membangunkan dan melatih model AI khusus untuk SME menerusi AINNA NeuralOps. Matlamatnya bukan untuk menghasilkan chatbot serbaguna yang ketiga, tetapi membina lapisan kepintaran operasi yang faham cara SME benar-benar berfungsi dan boleh bekerja terus dengan sistem perniagaan.
Kami tidak melatih LLM dari sifar. Kami bermula dengan model asas open-source, kemudian menala semula menggunakan LoRA/QLoRA dalam GPU notebook, dengan dataset yang dibina daripada kes penggunaan SME sebenar - laporan pengurusan, kewangan, HR, jualan, inventori, khidmat pelanggan, dan operasi laman web.
Kami juga menggunakan advanced LLMs sebagai teacher models untuk knowledge distillation. Model berkemampuan lebih tinggi ini membantu kami menjana, memperbaiki, mengkritik, dan menilai contoh latihan, corak penaakulan, kes-kes tepi, dan respons khusus SME sebelum ilmu yang berguna dipindahkan ke model pakar yang lebih kecil.
Alur kerja kami pada masa ini: Advanced LLM Teacher → SME Dataset → Distillation → LoRA/QLoRA → Specialised SME Model → NeuralOps Agent Harness. Idea dasarnya: gunakan model berkuasa untuk mengajar, tetapi gunakan model lebih kecil untuk beban kerja operasi harian.
Model pakar ini kemudiannya dipasangkan dalam NeuralOps, bersama Smart Routing, ejen-ejen pakar, pangkalan data, API, dan Detached Systems. NeuralOps yang tentukan model, alat, sumber data, atau aliran kerja mana yang patut mengendalikan setiap tugas - bukan menghantar semuanya ke satu LLM besar.
Untuk tugas mudah dan boleh jangka, kami gunakan sistem deterministik seperti PHP, Python, SQL, atau peraturan perniagaan. Bagi kepintaran rutin, NeuralOps boleh gunakan model pakar SME. Hanya tugas penaakulan lebih kompleks yang dinaiktaraf ke model besar, supaya kos inferens tidak membazir dan pergantungan pada pembekal AI luar berkurangan.
Data perniagaan terkini juga kekal di dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM, dan platform laporan. Model tidak perlu menghafal seluruh syarikat. Ia belajar cara memahami operasi SME, manakala sistem sebenar menyediakan maklumat terkini dan boleh disahkan.
Arsitektur yang sedang kami bina secara praktikalnya: Business Systems → NeuralOps → Smart Routing → Specialised SME Model / Tools / Advanced LLM → Validation → Action. Matlamat saya adalah menjadikan AI lebih praktikal untuk SME: lebih kecil, lebih pakar, cekap kos, boleh kawal, dan bersepadu ke dalam aliran kerja perniagaan sebenar - bukan sekadar wujud sebagai pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #SME #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automation #BusinessIntelligence
