Sejak menubuhkan AINNA, misi saya dan pasukan kami tetap jelas: membina satu lapisan kepintaran khas untuk PKS Malaysia melalui AINNA NeuralOps. Bukan untuk mencipta chatbot serba-guna yang sekadar bertanya dan menjawab, tetapi satu kecerdasan yang benar-benar memahami operasi perniagaan anda-laporan pengurusan, kewangan, sumber manusia, jualan, inventori, khidmat pelanggan, dan operasi laman web-serta bekerja secara langsung dengan sistem yang sedia ada.
Kami tidak membina Large Language Model dari sifar. Pasukan teknikal AINNA bermula dengan model open-source dan menyesuaikannya menggunakan LoRA/QLoRA dalam persekitaran GPU notebook, berdasarkan dataset yang dikumpul dari kes penggunaan PKS yang tulen. Setiap contoh latihan direka untuk mencerminkan realiti operasi perniagaan tempatan kita.
Kami turut menggunakan advanced LLMs sebagai teacher models dalam proses knowledge distillation. Model-model berkeupayaan tinggi ini membantu pasukan kami menjana, memperkemas, mengkritik, dan menilai contoh latihan, corak penaakulan, kes-kes tepi, serta respons khusus untuk PKS-sebelum ilmu berharga itu dipindahkan ke dalam model yang lebih kecil, pantas, dan berfokus.
Aliran kerja kami kini adalah: Advanced LLM Teacher → SME Dataset → Distillation → LoRA/QLoRA → Specialised SME Model → NeuralOps Agent Harness. Ideanya mudah: gunakan model berkuasa untuk mengajar, tetapi biarkan model yang lebih ringan dan efisien menjalankan bebanan operasi harian perniagaan anda.
Model khas ini kemudiannya digabungkan ke dalam NeuralOps, bersama-sama Smart Routing, ejen-ejen pakar, pangkalan data, API, dan Detached Systems. NeuralOps akan menentukan model, alat, sumber data, atau aliran kerja mana yang paling sesuai untuk setiap tugas-tanpa menghantar segala-galanya ke satu LLM besar yang mahal dan sukar terkawal.
Untuk tugas mudah dan boleh jangka, kami menggunakan sistem deterministik seperti PHP, Python, SQL, atau peraturan perniagaan. Untuk kecerdasan operasi biasa, NeuralOps akan memilih specialised SME model. Hanya tugas-tugas penaakulan yang lebih kompleks sahaja yang dirujuk ke model yang lebih besar. Cara ini membantu mengurangkan kos inference yang tidak perlu dan mengurangkan pergantungan kepada pembekal AI luar.
Data perniagaan secara langsung kekal dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM, dan platform laporan. Model kami tidak perlu menghafal keseluruhan syarikat anda. Yang lebih penting, ia belajar cara memahami operasi PKS, manakala sistem-sistem anda yang menyediakan maklumat semasa dan boleh disahkan.
Arsitektur yang kami bina di AINNA boleh dirumuskan seperti ini: Business Systems → NeuralOps → Smart Routing → Specialised SME Model / Tools / Advanced LLM → Validation → Action. Matlamat saya mudah: menjadikan AI lebih praktikal untuk PKS Malaysia-lebih kecil, lebih khusus, lebih cekap kos, lebih terkawal, dan bersepadu sepenuhnya dengan aliran kerja perniagaan sebenar. Bukan sekadar pembantu perbualan, tetapi rakan strategik dalam operasi harian anda.
#AINNA #NeuralOps #AI #AgenticAI #SME #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automation #BusinessIntelligence
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
とりあえず保存しました。このテーマのためです。
Bookmarked, mostly for model-model berkeupayaan tinggi ini membantu.
Solid take on kami tidak membina large language overall.
Lebih jelas daripada dek vendor yang saya terima pasal kami tidak membina large language.
Read this twice. Bukan untuk mencipta chatbot serba-guna is what stayed with me.
Bahagian kami tidak membina large language tu yang buat saya fikir lama.
Still thinking about kami turut menggunakan advanced LLMs.
Aliran kerja kami kini adalah - that is the whole thing in one line.