AI Boleh Hallucinate. Seni Bina Operasi E-Dagang Tak Boleh.✎ Edit

Salah satu salah tanggapan paling besar dalam operasi e-dagang ialah anggapan yang mengatakan 'hallucination' AI boleh dihapuskan kalau kita guna LLM yang lebih besar dan berkuasa. Hakikatnya, LLM direka secara probabilistik. Output mungkin lebih tepat apabila model diperbesar, tetapi kemungkinan untuk tersilap, tidak konsisten, atau memberikan maklumat tanpa sumber tetap ada - walau sekecil mana pun.

Soalan yang lebih praktikal bukannya 'macam mana nak hapuskan hallucination 100%?', tetapi 'mengapa operasi penting macam sync stok, update harga dan proses pesanan dalam e-dagang perlu bergantung sepenuhnya pada sistem probabilistik?'. Masalahnya bukan semata-mata model. Ia adalah seni bina yang membenarkan AI menganalisis data, membuat keputusan, meluluskan tindakan, dan melaksanakan proses tanpa pemisahan kawalan yang cukup.

Pendekatan yang lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui sistem berasingan 100% deterministik. AI boleh membaca data jualan, mengenal pasti corak stok, menjana cadangan reorder atau markdown, dan mencadangkan tindakan - tetapi ia tidak mengawal proses operasi akhir secara langsung. Setiap output AI dianggap sebagai input yang mesti melalui pengesahan bebas sebelum masuk ke sistem operasi.

Sebarang cadangan AI dihantar ke sistem berasingan ini untuk disemak terlebih dahulu: peraturan perniagaan, integriti data SKU, ketepatan matematik harga dan margin, kebenaran pengguna, polisi keselamatan, syarat aliran kerja (workflow), serta keperluan audit. Jika mana-mana syarat gagal, proses dihentikan atau dihantar kepada pasukan operasi untuk semakan. AI mungkin masih memberikan cadangan yang kurang tepat, tetapi cadangan itu tidak boleh automatik menjadi tindakan operasi.

Masa depan AI yang boleh dipercayai dalam e-dagang bukannya bergantung kepada model bebas hallucination. Ia bergantung kepada seni bina yang selamat menghadapi hallucination. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan, dan cadangan daripada kawalan, kita boleh memanfaatkan fleksibiliti AI tanpa membiarkan output probabilistik mengganggu sistem kritikal seperti inventori, pesanan, dan penjanaan pendapatan untuk perniagaan Malaysia.