Sejak pasang OpenClaw dalam aliran kerja AI kami, penggunaan token kami jatuh daripada 34 bilion token sebulan ke 1.5 bilion token sebulan menerusi pendekatan Detached System.
Sekarang, selepas masukkan Refactor dan Resegment, kami dah turun lagi ke 750 juta token sebulan.
Dari pengalaman saya urus operasi e-commerce di AINNA, pelajaran besarnya mudah: pengoptimuman bukan selalu tentang beli GPU lebih besar atau tambah compute power. Kadang-kadang, terobosan sebenar datang bila kita reka bentuk semula cara sistem berfikir, membaca, dan melaksanakan tugas.
Sebelum ini, AI kami terpaksa baca konteks yang sama berulang kali hanya untuk buat perubahan kecil. Sama macam kita refresh seluruh katalog SKU cuma nak tukar harga satu produk - ia membazir token, naikkan kos, perlahankan proses, dan tambah beban pada sistem.
Dengan Detached System, beban kerja jadi lebih fokus. Dengan Refactor dan Resegment, setiap proses jadi lebih tersusun. AI tak perlu imbas keseluruhan sistem setiap kali. Ia hanya bekerja pada bahagian tepat yang perlu diubah.
Itulah cara kami bergerak daripada:
34B → 1.5B → 750M tokens/month
Kurang konteks.
Kurang ulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, ini buktikan satu perkara dengan jelas: masa depan kecekapan AI bukan hanya bergantung pada perkakasan lebih kuat. Ia bergantung pada seni bina yang lebih pintar.
Kecekapan bermula dari reka bentuk sistem.
#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #Efficiency
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
我喜欢34这部分，因为它讲得比较务实。
Whoever wrote this actually did the work on penggunaan token kami jatuh daripada.
Still thinking about turun lagi ke 750.
This is where kami dah turun lagi ke finally makes sense.
Lebih jelas daripada dek vendor yang saya terima pasal 34.
Dah hantar pada dua orang. Sebab 34.