Sebagai pasukan perancangan pengeluaran dan operasi di AINNA, kami memotong penggunaan token sehingga 90% dengan memastikan AI tidak melakukan kerja yang perisian biasa sudah boleh uruskan dengan lebih baik. Ia mungkin tidak nampak menarik, tetapi memasukkan LLM atau ejen ke dalam setiap alur kerja bukan inovasi. Kadangkala, ia sekadar seni bina yang mahal.
Ambil contoh sesuatu yang sering kita uruskan di operasi: e-mel. Anda tidak perlukan AI untuk menyemak sama ada e-mel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau memicu proses seterusnya. Peraturan, penghurai, skrip, dan automasi deterministik boleh jalankan kerja itu lebih pantas dan menggunakan compute yang jauh lebih sedikit.
Pendekatan yang nampak glamour ialah menghantar segala-galanya kepada LLM. Baca. Klasifikasikan. Ringkaskan. Analisis. Ulang. Ia kelihatan impresif pada papan pemuka, tetapi setiap token yang tidak perlu bermaksud lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami mudah: perisian mengendalikan kerja deterministik; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, kesamaran, tafsiran, dan pembuatan keputusan. Jangan buang kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan secara boleh dipercayai.
Jadi, masa depan mana yang kita mahukan? AI yang glamour tetapi membazirkan compute, atau seni bina pintar yang mengurangkan token, kos, elektrik, permintaan penyejukan, dan pelepasan karbon? Kami pilih seni bina yang kurang glamour - kerana masa depan AI bukan sahaja harus lebih berkuasa. Ia juga harus jauh lebih cekap.
#AI #AIInfrastructure #NeuralOps #GreenAI #SustainableAI #ESG #Automation #EnterpriseAI #CarbonReduction
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Arah yang ditulis pasal 90% memang betul.
Already sent this to two people. Ia mungkin tidak nampak menarik is why.
如果还有90%的后续，我会继续读。
The numbers around penggunaan token sehingga 90% make more sense than most posts I read.
Whoever wrote this actually did the work on sebagai pasukan perancangan pengeluaran dan.
The section on atau memicu proses seterusnya is the strongest part for me.