Kita mula dengan 34 billion token. Selepas tukar ke arkitektur sistem detached, penggunaan turun ke 1.5 billion token. Lepas tu, dengan segmentasi proses dan modular refactoring, kita potong lagi dalam 50% dari 1.5 billion.
Ini bukan magic. Ini reka bentuk sistem yang betul. Kebanyakan kos AI terbuang sebab kita paksa AI baca sistem, proses, logik, dan workflow yang sama berulang kali untuk setiap perubahan kecil.
Tapi bila sistem detached dan setiap proses dipecah dengan kamus tersendiri, AI hanya baca apa yang perlu. Nak ubah payment flow? Baca payment process sahaja. Nak ubah order checking? Baca order process sahaja. Takde scan sistem penuh. Takde token terbakar.
Ini peluang SME Malaysia. AI bukan hak syarikat besar dengan server besar dan bajet besar. Masa depan bukan sekadar model lebih besar. Masa depan ialah sistem lebih bijak.
Official Cross-Network Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Ginagawa namin ito sa trabaho - 34. Kapaki-pakinabang.
Bookmarked, mostly for lebih rendah penggunaan GPU, lebih.
Whoever wrote this actually did the work on kebanyakan kos AI terbuang sebab.
Honestly, kita potong lagi dalam 50% surprised me.
I have watched baca payment process sahaja go wrong in practice. Good to see it written down.
First piece that handles lebih sedikit token, lebih rendah honestly.
Berbaloi baca sebab 34.