Gelombang haba yang melanda beberapa negara di Eropah baru-baru ini menjadi satu lagi peringatan bahawa pembangunan teknologi tidak boleh dipisahkan daripada tanggungjawab terhadap alam sekitar. Walaupun perubahan iklim kekal sebagai punca utama cuaca ekstrem, pertumbuhan pesat infrastruktur AI turut meningkatkan permintaan terhadap tenaga elektrik, sistem penyejukan dan pusat data berskala besar.
Persoalannya bukan sama ada kita perlu menghentikan pembangunan AI. Persoalannya ialah bagaimana kita boleh membangunkan dan menggunakan AI dengan lebih bijak.
Hari ini, terlalu banyak permintaan AI dihantar terus ke model terbesar di cloud walaupun tugasan tersebut sebenarnya boleh diselesaikan oleh model yang jauh lebih kecil. Pendekatan ini meningkatkan penggunaan GPU, penggunaan tenaga dan kos operasi tanpa memberikan nilai tambahan yang signifikan.
Di sinilah konsep Detached System dan Smart Routing memainkan peranan.
Detached System membolehkan AI beroperasi pada infrastruktur tempatan atau pelayan khusus apabila sesuai. Data tidak perlu sentiasa keluar ke cloud, sekali gus mengurangkan pergantungan kepada internet, meningkatkan privasi, mempercepatkan tindak balas dan mengurangkan penggunaan sumber yang tidak diperlukan.
Smart Routing pula memastikan setiap permintaan dihantar kepada model AI yang paling sesuai mengikut tahap kerumitan tugasan. Soalan mudah tidak memerlukan model terbesar. Tugasan sederhana menggunakan model sederhana. Hanya tugasan yang benar-benar kompleks dihantar kepada model berkeupayaan tinggi. Pendekatan ini mengoptimumkan penggunaan tenaga, GPU dan kos tanpa menjejaskan kualiti keputusan.
Masa depan AI bukan lagi perlumbaan untuk membina pusat data yang paling besar atau menggunakan GPU yang paling banyak. Masa depan AI ialah membina sistem yang paling cekap, paling lestari dan paling bertanggungjawab.
Organisasi yang mengutamakan kecekapan tenaga, seni bina AI yang bijak dan penggunaan sumber secara optimum bukan sahaja dapat mengurangkan kos operasi, malah lebih bersedia menghadapi cabaran tenaga, keselamatan data dan kelestarian pada masa hadapan.
AI ialah alat yang mampu mempercepatkan inovasi dan meningkatkan produktiviti. Namun seperti mana-mana teknologi yang berkuasa, ia perlu digunakan dengan berhemah.
Bukan semua tugasan memerlukan AI terbesar. Bukan semua data perlu ke cloud. Bukan semua masalah diselesaikan dengan lebih banyak GPU.
AI yang bijak bukan sekadar pintar membuat keputusan, tetapi juga bijak menggunakan tenaga, data dan sumber.
AI yang cekap. Sistem yang lestari. Masa depan yang lebih bertanggungjawab.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
I would push back slightly on persoalannya ialah bagaimana kita boleh, but the direction is right.
The bit abot pertumbuhan pesat infrastruktur AI turut is what I keep coming back to.
Worth reading just for data tidak perlu sentiasa keluar.
We hit pendekatan ini mengoptimumkan penggunaan at work before. Good that someone wrote it down.
Good write-up. Hanya tugasan yang benar-benar kompleks alone was worth the read. Still thinking this one through.
I do not fully buy soalan mudah tidak memerlukan model yet, but it is a fair argument.