Sebagai ketua logistik, saya melihat AINNA NeuralOps sebagai satu lapisan kecerdasan khas untuk perusahaan kecil dan sederhana (SME). Matlamat kami bukan untuk mencipta chatbot umum yang sekadar berbual, tetapi untuk membina satu sistem yang benar-benar memahami aliran operasi harian - dari gudang, inventori, penghantaran, pembelian, perkhidmatan pelanggan, sehingga ke sistem perniagaan lain.
Kami tidak melatih Large Language Model dari sifar. Sebaliknya, kami bermula dengan model sumber terbuka dan menyesuaikannya menggunakan LoRA/QLoRA dalam GPU notebook, berdasarkan data set yang diambil dari senario SME sebenar - termasuk laporan pengurusan, kewangan, HR, jualan, inventori, perkhidmatan pelanggan, dan operasi laman web. Dalam operasi logistik, contohnya seperti mengurus susunan SKU, pengesanan stok minimum, dan mempercepat proses pesanan keluar.
Kami turut menggunakan LLM canggih sebagai model guru untuk knowledge distillation. Model yang lebih berkemampuan ini membantu kami menghasilkan, memperbaiki, mengkritik, dan menilai contoh latihan, corak penaakulan, kes terpinggir, serta respons khas SME sebelum ilmu berguna dipindahkan ke model kecil yang lebih terspesialisasi. Ini penting dalam logistik kerana setiap kes seperti kelewatan pembekal, stok rosak, atau perubahan pesanan memerlukan respons tepat dan pantas.
Aliran kerja saya kini adalah: Advanced LLM Teacher → SME Dataset → Distillation → LoRA/QLoRA → Specialised SME Model → NeuralOps Agent Harness. Matlamatnya ialah menggunakan model berkuasa untuk mengajar, manakala model yang lebih kecil dan pantas menjalankan kerja-kerja operasi harian seperti mengurus status penghantaran, cadangan pembekul semula, dan pertanyaan berkaitan inventori.
Model terspesialisasi ini kemudiannya digabungkan dalam NeuralOps, bersama Smart Routing, ejen-ejen khas, pangkalan data, API, dan Detached Systems. NeuralOps akan menentukan model, alat, sumber data, atau aliran kerja mana yang sesuai untuk setiap tugas - sama ada perintah pembelian, pengesanan inventori, penjadualan penghantaran, atau pertanyaan pelanggan - tanpa menghantar segalanya ke satu LLM besar.
Bagi tugas mudah dan boleh diramal, kami masih menggunakan sistem deterministik seperti PHP, Python, SQL, atau peraturan perniagaan. Untuk kecerdasan operasi rutin, NeuralOps boleh menggunakan model SME terspesialisasi. Hanya tugas penaakulan kompleks sahaja yang dirujuk ke model besar, sekali gus mengurangkan kos inferens yang tidak perlu dan kebergantungan kepada pembekal AI luar. Pendekatan ini membolehkan kami mengawal perbelanjaan sambil mengekalkan kelajuan di gudang.
Data perniagaan terkini juga kekal di dalam sistem operasi seperti MySQL, HR, Finance, Inventory, CRM, dan platform laporan. Model ini tidak perlu menghafal keseluruhan syarikat. Ia belajar cara memahami operasi SME, manakala sistem-sistem sebenar menyediakan maklumat terkini dan boleh disahkan. Dalam logistik, ini bermakna status stok, pesanan, dan penghantaran sentiasa diambil terus dari sumber yang sah.
Senibina yang kami bina secara praktikalnya adalah: Business Systems → NeuralOps → Smart Routing → Specialised SME Model / Tools / Advanced LLM → Validation → Action. Matlamat saya adalah menjadikan AI lebih praktikal untuk SME: lebih kecil, terspesialisasi, cekap kos, boleh dikawal, dan bersepadu dengan aliran kerja perniagaan sebenar - bukannya hanya wujud sebagai pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #SME #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automation #BusinessIntelligence
