Dari pengalaman mengurus operasi logistik di AINNA, kami berjaya kurangkan penggunaan token sehingga 90% dengan memastikan AI tidak melakukan kerja yang perisian atau sistem operasi biasa sudah boleh tangani dengan lebih baik. Ia mungkin tidak kelihatan canggih, tetapi memasukkan LLM atau ejen ke dalam setiap aliran kerja operasi bukan inovasi. Kadangkala, ia sekadar seni bina yang mahal.
Ambil contoh proses pesanan harian. Kami tidak perlu AI untuk menyemak sama ada pesanan baharu masuk, mengenal pasti pelanggan, memadankan SKU, menyusun data berstruktur, mengemas kini inventori, atau mencetuskan proses seterusnya seperti pemungutan dan pembungkusan. Peraturan, parser, skrip, dan automasi deterministik boleh melakukan semua itu lebih pantas dan dengan kos pengiraan yang jauh lebih rendah.
Pendekatan 'cantik' ialah menghantar semua data ke LLM. Baca. Kelaskan. Ringkaskan. Analisis. Ulang. Ia kelihatan hebat di papan pemuka, tetapi setiap token yang tidak perlu bermakna lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e - sesuatu yang kami di logistik perlu pantau secara teliti.
Prinsip kami mudah: perisian menangani kerja deterministik; AI menangani kepintaran. Gunakan AI untuk penaakulan, kekaburan, pentafsiran, dan keputusan operasi seperti ramalan permintaan atau pengurusan pengecualian pengiriman. Jangan bazirkan kitar GPU untuk tugas yang beberapa baris kod boleh jalankan dengan boleh dipercayai.
Jadi, masa depan operasi yang mana kita mahukan? AI 'cantik' yang membazirkan pengiraan, atau seni bina bijak yang mengurangkan token, kos, elektrik, keperluan penyejukan, dan pelepasan karbon? Kami memilih seni bina yang kurang glamor - kerana masa depan AI dalam logistik bukan sahaja perlu lebih berkuasa, tetapi juga jauh lebih cekap.
#AI #AIInfrastructure #NeuralOps #GreenAI #SustainableAI #ESG #Automation #EnterpriseAI #CarbonReduction
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Worth reading for kadangkala, ia sekadar seni bina alone.
Useful. We are dealing with ia mungkin tidak kelihatan canggih right now.
The bit about atau mencetuskan proses seterusnya seperti is what I keep coming back to. Still thinking this one through.
I read this twice. sesuatu yang kami di logistik is the part that stuck.
The framing around tetapi setiap token yang tidak is better than I expected.
Still thinking about peraturan, parser, skrip, dan automasi.
You can tell the writer actually worked on penggunaan token sehingga 90%.
Clear and short. Sharing kami tidak perlu AI untuk with my team.
The figures on mengenal pasti pelanggan, memadankan SKU make more sense than most posts.
Dah hantar pada dua orang. Sebab 90%. Patut ditelusuri lagi.
Good write-up. Ia kelihatan hebat di papan alone was worth the read.
lebih banyak elektrik, lebih banyak - that is the whole thing in one line.
90% वाले हिस्से ने मुझे सोचने पर मजबूर किया। यहाँ कुछ सवाल अभी बाकी हैं।
I do not fully buy dari pengalaman mengurus operasi logistik yet, but it is a fair argument.