Dalam operasi logistik, kita melakukan triaj setiap hari. Anda tidak akan menghantar lori kontena penuh atau menggerakkan pasukan penyelenggaraan hanya untuk satu bungkusan kecil. Prinsip yang sama harus dipakai kepada AI. Tidak semua tugas memerlukan model terbesar, beban GPU paling tinggi, atau lapisan komputasi paling mahal.
Perkara ini penting kerana AI tidak terlepas daripada perspektif ESG. Agensi Tenaga Antarabangsa menjangkakan penggunaan elektrik pusat data boleh lebih berganda kepada sekitar 945 TWh menjelang 2030, didorong secara ketara oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan pemulihan air sebagai sebahagian komitmen kemampanan mereka.
Di AINNA, prinsip kami mudah: komputasi paling bersih ialah komputasi yang tidak kita bazirkan. Tanpa Detached Systems dan Smart Routing, satu bebanan kerja boleh menggunakan sekitar 34 bilion token. Dengan seni bina kami, arahan operasi yang sama dapat dikurangkan kepada sekitar 1.5 bilion token - penurunan kira-kira 95.6% dalam penggunaan token.
Itulah sebabnya kami yakin untuk menyasarkan penggunaan kuasa lebih rendah sekitar 90% sebagai hala tuju ESG yang praktikal. Tugas mudah dihantar ke sistem ringan. Tugas operasi dihantar ke ejen pakar. Penaakulan kompleks dinaik taraf hanya apabila benar-benar diperlukan. Kami tidak menggerakkan lori kontena penuh hanya untuk satu bungkusan kecil.
Masa depan AI tidak seharusnya diukur hanya berdasarkan seberapa banyak kecerdasan yang boleh kita aktifkan, tetapi berapa banyak komputasi tidak perlu yang dapat kita elakkan. ESG sebenar dalam AI bukan menggunakan AI di mana-mana. Ia adalah menggunakan AI secara bijak.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Sang-ayon ako sa 945, at malinaw ang direksyon.
didorong secara ketara oleh permintaan - that is the whole thing in one line.
First piece I have read that treats perkara ini penting kerana AI honestly.
I read this twice. berganda kepada sekitar 945 is the part that stuck.
This is where boleh menggunakan sekitar 34 finally makes sense.
The framing on rendah sekitar 9 90% is better than expected.