Sejak pasang OpenClaw dalam aliran kerja AI kami, penggunaan token kami jatuh daripada 34 bilion token sebulan ke 1.5 bilion token sebulan menerusi pendekatan Detached System.
Sekarang, selepas masukkan Refactor dan Resegment, kami dah turun lagi ke 750 juta token sebulan.
Dari pengalaman saya urus operasi e-commerce di AINNA, pelajaran besarnya mudah: pengoptimuman bukan selalu tentang beli GPU lebih besar atau tambah compute power. Kadang-kadang, terobosan sebenar datang bila kita reka bentuk semula cara sistem berfikir, membaca, dan melaksanakan tugas.
Sebelum ini, AI kami terpaksa baca konteks yang sama berulang kali hanya untuk buat perubahan kecil. Sama macam kita refresh seluruh katalog SKU cuma nak tukar harga satu produk - ia membazir token, naikkan kos, perlahankan proses, dan tambah beban pada sistem.
Dengan Detached System, beban kerja jadi lebih fokus. Dengan Refactor dan Resegment, setiap proses jadi lebih tersusun. AI tak perlu imbas keseluruhan sistem setiap kali. Ia hanya bekerja pada bahagian tepat yang perlu diubah.
Itulah cara kami bergerak daripada:
34B → 1.5B → 750M tokens/month
Kurang konteks.
Kurang ulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, ini buktikan satu perkara dengan jelas: masa depan kecekapan AI bukan hanya bergantung pada perkakasan lebih kuat. Ia bergantung pada seni bina yang lebih pintar.
Kecekapan bermula dari reka bentuk sistem.
#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #Efficiency
