Sejak kami melaksanakan OpenClaw dalam operasi, penggunaan token kami turun dari 34 bilion token sebulan kepada 1.5 bilion token sebulan menerusi pendekatan Detached System.
\r\nKini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi ke paras 750 juta token sebulan.
\r\nDari sudut operasi, pengajaran paling besar di sini mudah: optimasi bukan selalu tentang membeli GPU lebih besar atau menambah kuasa compute. Dalam persekitaran perniagaan Malaysia, terutamanya untuk pasukan yang menjalankan operasi harian, kejayaan sebenar datang apabila kita menyusun semula proses supaya sistem bekerja lebih fokus dan cekap.
\r\nSebelum ini, AI terpaksa membaca konteks yang terlalu banyak berulang kali hanya untuk membuat perubahan kecil. Itu mencetuskan pembaziran token, kos tinggi, perlahan execution, dan bebanan tidak perlu pada operasi.
\r\nDengan Detached System, beban kerja menjadi lebih tertumpu. Dengan Refactor dan Resegment, setiap proses menjadi lebih tersusun. AI tidak perlu lagi mengimbas keseluruhan sistem setiap kali. Ia hanya bekerja pada bahagian tepat yang memberi kesan kepada hasil.
\r\nInilah cara kami bergerak dari:
\r\n34B → 1.5B → 750M token/sebulan
\r\nKurang konteks.
\r\nKurang ulangan.
\r\nKurang pembaziran.
\r\nKos lebih rendah.
\r\nExecution lebih pantas.
Bagi saya, dari perspektif operasi dan pembangunan perniagaan, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan hanya bergantung pada hardware yang lebih kuat. Ia bergantung pada reka bentuk sistem yang lebih bijak.
\r\nKecekapan bermula dari reka bentuk sistem.
\r\n#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #Efficiency
