AI Pintar untuk Operasi Lestari: Kurangkan Pembaziran Kompute✎ Edit

Saya melihat AI dari sudut perancangan pengeluaran dan operasi - ia sepatutnya berfungsi seperti sistem triaj di lantai kilang. Anda tidak akan menggerakkan mesin besar atau jurutera pakar hanya untuk memasang pelekat kecil. Prinsip yang sama harus dipakai kepada AI. Tidak setiap tugas memerlukan model terbesar, beban GPU tertinggi, atau lapisan kompute termahal.

Ini penting kerana AI tidak bebas daripada impak ESG. International Energy Agency menjangkakan penggunaan elektrik pusat data boleh lebih dua kali ganda kepada kira-kira 945 TWh menjelang 2030, didorong kuat oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan pemulihan air sebagai sebahagian komitmen kemampanan.

Di AINNA, prinsip pasukan Perancangan Pengeluaran dan Operasi kami mudah: kompute paling bersih ialah kompute yang tidak kita bazirkan. Tanpa Detached Systems dan Smart Routing, satu beban kerja boleh menggunakan sekitar 34 bilion token. Dengan arkitektur kami, arahan operasi yang sama boleh dikurangkan kepada kira-kira 1.5 bilion token - pengurangan kira-kira 95.6% dalam penggunaan token.

Sebab itulah kami yakin menyasarkan kira-kira 90% penggunaan kuasa lebih rendah sebagai hala tuju ESG yang praktikal. Tugas mudah dihantar ke sistem ringan. Tugas operasi dihantar ke ejen pakar. Penaakulan kompleks diangkat hanya apabila benar-benar diperlukan. Kami tidak mengaktifkan “jurutera pakar” untuk tampalan kecil.

Masa depan AI tidak seharusnya diukur hanya dengan seberapa banyak kecerdasan yang boleh kita aktifkan, tetapi dengan seberapa banyak kompute yang tidak perlu dapat kita elakkan. ESG sebenar dalam AI bukanlah menggunakan AI di mana-mana. Ia mengenai menggunakan AI dengan bijak.