Saya sedang membina dan melatih model AI khusus untuk kegunaan SME menerusi AINNA NeuralOps. Dari sudut operasi logistik dan pembangunan sistem, matlamatnya bukan mencipta chatbot umum, tetapi membangunkan lapisan keerdasan pakar yang memahami aliran kerja SME sebenar-termasuk inventori, pemenuhan pesanan dan perkhidmatan pelanggan-serta berinteraksi terus dengan sistem perniagaan.
Saya tidak melatih Model Bahasa Besar (LLM) dari sifar. Saya bermula dengan model asas sumber terbuka dan menala semula menggunakan LoRA/QLoRA dalam GPU notebook, dengan set data yang dibina daripada kes penggunaan SME sebenar seperti pengurusan inventori, pemenuhan pesanan, jadual penghantaran, kewangan, HR, jualan, perkhidmatan pelanggan dan operasi laman web.
Saya turut menggunakan LLM lanjutan sebagai model pengajar untuk proses knowledge distillation. Model-model yang lebih berkemampuan ini membantu saya menjana, memperbaiki, mengkritik dan menilai contoh latihan, corak penaakulan, kes tepi dan respons khusus SME sebelum pengetahuan berguna dipindahkan ke model pakar yang lebih kecil dan cekap.
Aliran kerja saya kini ialah: Model Pengajar LLM Lanjutan → Set Data SME → Distillation → LoRA/QLoRA → Model SME Pakar → NeuralOps Agent Harness. Matlamatnya adalah menggunakan model berkuasa untuk mengajar, sambil menugaskan model lebih kecil untuk beban kerja operasi harian-sesuatu yang amat penting dalam persekitaran logistik yang memerlukan kelajuan dan kebolehcapaian.
Model pakar itu kemudiannya dipasangkan ke dalam NeuralOps, bersama Smart Routing, ejen pakar, pangkalan data, API dan Detached Systems. NeuralOps menentukan model, alat, sumber data atau aliran kerja mana yang harus menangani setiap tugas, berbanding menghantar setiap permintaan ke satu LLM besar yang tidak efisien.
Bagi tugas mudah dan boleh diramal, saya menggunakan sistem deterministik seperti PHP, Python, SQL atau peraturan perniagaan. Bagi keerdasan rutin, NeuralOps boleh memanggil model SME pakar. Hanya tugas penaakulan kompleks yang dinaik taraf ke model lebih besar, sekali gus mengurangkan kos inferen yang tidak perlu dan pergantungan kepada pembekal AI luar.
Data perniagaan terkini kekal di dalam sistem operasi seperti MySQL, HR, Finance, Inventory, CRM dan platform pelaporan. Model tidak perlu menghafal keseluruhan syarikat; ia belajar memahami operasi SME, manakala sistem sumber menyediakan maklumat semasa yang boleh disahkan.
Senibina yang saya bina secara dasarnya ialah: Sistem Perniagaan → NeuralOps → Smart Routing → Model SME Pakar / Alatan / LLM Lanjutan → Pengesahan → Tindakan. Matlamat saya adalah menjadikan AI lebih praktikal untuk SME: lebih kecil, lebih pakar, cekap kos, boleh kawal dan bersepadu dalam aliran kerja perniagaan sebenar, terutamanya operasi logistik dan pemenuhan, berbanding hanya menjadi pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #SME #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automation #BusinessIntelligence
