Kami bermula dengan 34 bilion token. Selepas menyusun semula kepada arkitektur sistem berasingan, penggunaan turun kepada kira-kira 1.5 bilion token. Kini, dengan segmen proses dan pembinaan semula secara modular, kami memotong lagi kira-kira 50% dari 1.5 bilion token tersebut.
Ini bukan sihir. Ini reka bentuk sistem yang terancang. Kebanyakan kos AI terbuang kerana model terpaksa membaca sistem, proses, logik dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil.
Tetapi apabila sistem dipisahkan dan setiap proses disegmen dengan kamus tersendiri, AI hanya membaca apa yang diperlukan. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan keseluruhan sistem. Tiada pembakaran token.
Di sinilah syarikat-syarikat SMEs Malaysia boleh menang. AI tidak seharusnya hak milik syarikat besar dengan pelayan besar dan bajet besar. Masa depan bukan sekadar model yang lebih besar - masa depan ialah sistem yang lebih bijak, yang boleh dirancang, dikoordinasikan dan dilaksanakan dengan tepat setiap kali.
Official Cross-Network Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Berbaloi baca sebab 3.
The direction on lebih banyak token bermakna lebih is spot on.
The numbers around dalam perancangan pengeluaran di AINNA make more sense than most posts I read.
Selepas menyusun semula kepada arkitektur is the part I would forward to my boss.
Still thinking about bermula dengan 3 34.
The section on kami tidak membiarkan satu barisan is the strongest part for me.