Ia mungkin datang daripada menggunakan AI dengan lebih bijak, bukan lebih banyak.
Perbezaan ini semakin penting apabila syarikat beralih daripada eksperimen AI kepada produksi. Matlamatnya bukan menjadikan setiap langkah aliran kerja bergantung pada model. Matlamatnya ialah membina sistem yang menggunakan AI di tempat yang memberi nilai paling tinggi, dan perisian deterministik di semua tempat lain.
Prinsip yang saya pegang dalam perancangan produksi dan operasi mudah:
Gunakan AI secara agresif untuk membina sistem, automasi dan logik. Setelah sistem matang, biarkan perisian deterministik mengendalikan kerja berulang 24/7. Bawa AI kembali hanya apabila benar-benar diperlukan penaakulan.
Dalam kerja seharian, saya melihat peralihan ini sendiri. Penggunaan token kami menurun daripada kira-kira 32 bilion token semasa pembangunan kepada sekitar 3 bilion token sebulan selepas sistem teras mula beroperasi.
Ini bukan sekadar penambahbaikan kecekapan. Ia mengubah ekonomi AI.
Kurang komputasi.
Kos operasi lebih rendah.
Skalabiliti lebih tinggi.
Margin lebih kukuh.
Infrastruktur lebih mampan.
Prinsipnya mudah:
Gunakan AI untuk membina mesin. Kemudian biarkan mesin itu melakukan kerja.
Syarikat yang belajar menskalakan kecerdasan tanpa menskalakan komputasi pada kadar yang sama boleh mencipta kelebihan daya saing yang besar. Lama-kelamaan, kelebihan itu boleh diterjemahkan kepada bilion dolar dalam nilai perusahaan dan pelaburan masa depan.
Masa depan AI tidak akan ditentukan semata-mata oleh model yang lebih besar atau lebih banyak token.
Ia akan ditentukan oleh seni bina yang lebih baik, dan oleh keupayaan tahu bila tidak perlu menggunakan AI langsung.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
24の部分はまだ考え中です。
The bit about gunakan AI secara agresif untuk is what I keep coming back to.
Clearer than the decks I usually get on perbezaan ini semakin penting apabila.