Kita boleh potong penggunaan token sehingga 90% apabila kita berhenti meminta AI melakukan tugas yang perisian biasa sudah uruskan dengan lebih baik. Ia mungkin tidak kelihatan menarik, tetapi memaksakan LLM atau ejen ke dalam setiap aliran kerja bukanlah inovasi. Kadangkala, ia hanyalah seni bina yang mahal.
Ambil contoh sesuatu seringkas e-mel. Kita tidak memerlukan AI untuk memeriksa sama ada e-mel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau mencetuskan proses seterusnya. Peraturan, penghurai, skrip, dan automasi berketentuan boleh melakukan tugas itu dengan lebih pantas dan hanya memerlukan sebahagian kecil daripada pengiraan.
Pendekatan yang nampak menarik ialah menghantar segala-galanya ke LLM. Bacanya. Kelaskannya. Ringkasannya. Analisiskannya. Ulangi. Ia kelihatan mengagumkan pada papan pemuka, tetapi setiap token yang tidak perlu bermaksud lebih banyak pengiraan GPU, lebih banyak tenaga elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami di AINNA mudah: perisian mengendalikan kerja berketentuan; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, keraguan, tafsiran, dan keputusan. Jangan membazirkan kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan dengan yakin.
Jadi, masa depan manakah yang kita mahu bina bersama? AI yang menarik tetapi membazirkan pengiraan, atau seni bina pintar yang mengurangkan token, kos, tenaga elektrik, keperluan penyejukan, dan pelepasan karbon? Kita memilih seni bina yang kurang menarik itu - kerana masa depan AI bukan sahaja harus lebih berkuasa, tetapi juga harus jauh lebih cekap.
#AI #AIInfrastructure #NeuralOps #GreenAI #SustainableAI #ESG #Automation #EnterpriseAI #CarbonReduction



Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Tulisan pertama yang cerita 90% dengan jujur.
I read this twice. Kita tidak memerlukan AI untuk is the part that stuck.
The numbers around kita boleh potong penggunaan token make more sense than most posts I read.
Honestly, tetapi memaksakan LLM atau ejen surprised me.