Sebagai pengasas AINNA, saya melihat industri AI sedang berlumba membina pusat data yang lebih besar dan grid kuasa yang lebih kukuh.
Tetapi mungkin soalan yang kita tanya tidak tepat.
Selain daripada memfokuskan sepenuhnya cara menjana lebih banyak kuasa untuk AI, kita juga harus bertanya:
Bagaimanakah kita boleh mengurangkan penggunaan kuasa oleh AI sejak dari awal?
Demi generasi akan datang dan komitmen ESG kita, di AINNA kami memilih jalan yang berbeza. Daripada bergantung kepada pengkomputeran brute-force, kami memberi tumpuan kepada mereka bentuk aliran kerja AI yang paling cekap.
Dengan melaksanakan Penghalaan Pintar dan Seni Bina Sistem Terpisah, setiap tugas dihala ke model dan sistem yang paling sesuai, sekali gus mengelakkan pemprosesan intensif GPU yang tidak perlu.
Keputusan yang diperoleh amat memberangsangkan:
- Sebelum penoptimuman: 34 bilion token diproses
- Selepas penoptimuman: 1.5 bilion token diproses
Ini bermakna pengurangan beban kerja pemprosesan sebanyak kira-kira 95.6%.
Walaupun penjimatan tenaga sebenar bergantung kepada perkakasan, model, dan tahap penggunaan, pengurangan ini membuktikan bagaimana seni bina pintar boleh menurunkan keperluan pengkomputeran dengan ketara tanpa mengorbankan hasil.
Masa depan AI tidak seharusnya diukur hanya daripada saiz pusat data atau bilangan GPU yang digunakan.
Ia juga harus diukur berdasarkan sejauh mana kita menggunakannya secara cekap.
Penghalaan lebih pintar. Penggunaan tenaga lebih rendah. Jejak karbon berkurangan. Ekonomi yang lebih baik.
Watt yang paling lestari masihlah watt yang tidak perlu digunakan.
#AI #ArtificialIntelligence #ESG #Sustainability #GreenTech #DataCenter #EnergyEfficiency #Innovation #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #TechnologyLeadership #ResponsibleAI #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Bookmarked, mainly for kita juga harus bertanya: bagaimanakah.
Nice one. memberangsangkan: sebelum penoptimuman: 34 alone worth the read.
Baru kali ini ada yang bahas 34 dengan jujur. Masih ada yang mengganjal di sini.
Bagian 34 ini yang bikin saya berpikir ulang.
Sebelum penoptimuman: 34 bilion token - that is the whole thing in one line.
I have watched daripada bergantung kepada pengkomputeran go wrong in practice. Good to see it written down.
Short and clear. Sebagai pengasas AINNA, saya melihat is worth sending to my team.
Still thinking about selain daripada memfokuskan sepenuhnya cara.
Clearer than the vendor decks I get about tetapi mungkin soalan yang kita.