Dalam perancangan produksi dan operasi, perbualan tentang AI yang menggunakan tenaga elektrik, menghasilkan haba, dan memberi tekanan kepada sumber air untuk penyejukan pusat data bukan lagi sesuatu yang jauh dari kerja harian.
Namun, mungkin kita sedang bertanya soalan yang salah.
Soalan itu tidak sepatutnya hanya:
“Berapa banyak tenaga yang digunakan oleh AI?”
Ia juga sepatutnya:
“Mengapa kita menggunakan compute AI yang mahal untuk tugasan yang sejak awal tidak memerlukannya?”
Bukan setiap tugasan memerlukan model frontier.
Validasi mudah tidak memerlukan LLM yang besar.
Aliran kerja berulang tidak memerlukan penaakulan mendalam.
Logik perniagaan yang sudah diketahui tidak memerlukan ribuan token setiap kali ia dijalankan.
Inilah prinsip yang kami pegang dalam kerja perancangan produksi dan operasi di AINNA bersama NeuralOps:
Gunakan AI termaju hanya apabila benar-benar diperlukan.
Salurkan tugasan mudah kepada sistem deterministik.
Gunakan model yang lebih kecil atau setempat jika sesuai.
Cache hasil yang boleh diguna semula.
Kurangkan konteks dan pemprosesan token yang tidak perlu.
Naik taraf kepada model berkuasa hanya untuk masalah yang benar-benar memerlukannya.
Kurang compute yang tidak perlu bermakna kurang pemprosesan, kurang permintaan tenaga, dan kurang haba yang akhirnya perlu diurus.
Masa depan AI lestari bukan sekadar tentang membina pusat data yang lebih hijau.
Ia juga harus tentang membina seni bina AI yang lebih pintar sebelum beban kerja itu sampai ke pusat data.
Kecekapan AI bukan sekadar masalah infrastruktur.
Ia adalah masalah seni bina.
#ArtificialIntelligence #SustainableAI #GreenAI #NeuralOps #AIInfrastructure #DataCenter #EnergyEfficiency #ESG #AgenticAI #DigitalTransformation
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
الجزء المتعلق بـ هذا الموضوع جعلني أفكر مطولًا.
Validasi mudah tidak memerlukan LLM is the part I would forward to my boss.
この説明の数字は他の記事より納得できます。
I do not fully buy gunakan AI termaju hanya apabila yet, but it is a fair argument.
We hit aliran kerja berulang tidak memerlukan at work before. Good that someone wrote it down.
Already sent this to two people. Cache hasil yang boleh diguna is why.
The part on soalan itu tidak sepatutnya hanya is the bit I keep re-reading. Have a few questions left here.
Saya kurang setuju sikit pasal soalan itu tidak sepatutnya hanya, tapi arah dia betul.
Whoever wrote this actually did the work on namun, mungkin kita sedang bertanya.
简单直接。这部分就能说明问题。