Mengapa halusinasi AI berlaku dan cara menguruskannya

Sistem generatif menghasilkan sambungan yang kelihatan munasabah, bukan fakta yang dijamin. Oleh itu, bahasa yang lancar boleh menjadikan output yang tidak disokong kelihatan lebih boleh dipercayai daripada keadaan sebenarnya.

Perkara utama

• Bahasa yang munasabah bukan bukti bahawa proses mendapatkan fakta telah berlaku.
• Maklumat yang tiada, sukar ditemui atau semasa meningkatkan risiko output yang tidak disokong.
• Sumber, ketidakpastian dan pengesahan bebas mesti dibina ke dalam aliran kerja.

Kenal pasti keadaan yang meningkatkan risiko

Risiko meningkat apabila permintaan memerlukan fakta yang sukar ditemui, maklumat semasa, petikan tepat, konteks peribadi yang tidak tersedia atau jawapan walaupun bukti tidak mencukupi.

Ubah arahan dan bukti

Berikan sumber yang diluluskan, benarkan sistem menyatakan bahawa maklumat tidak mencukupi dan minta dakwaan, andaian serta rujukan secara berasingan.

Sahkan di luar model

Buka sumber asal, kira semula angka penting dan gunakan penyemak yang berkelayakan untuk kandungan yang mempunyai akibat penting.

Jangan gunakan keyakinan sebagai bukti ketepatan

Skor keyakinan yang dilaporkan sendiri juga boleh dijana tanpa asas yang boleh dipercayai. Utamakan bukti yang boleh diperiksa oleh penyemak dan ujian terhadap jawapan yang telah diketahui.

Gunakan hasil yang jelas seperti “maklumat tidak mencukupi” dan laluan eskalasi dan bukannya memaksa sistem melengkapkan jawapan.

Ukur kegagalan berdasarkan akibatnya

Jejaki dakwaan yang tidak disokong, rujukan yang salah, ketidakpastian yang terlepas dan usaha pembetulan. Berikan wajaran lebih tinggi kepada kesilapan yang boleh menjejaskan hak, wang, keselamatan atau kepercayaan awam.

Senarai semak tindakan

1. Kenal pasti setiap dakwaan fakta yang penting.
2. Wajibkan sumber yang diluluskan atau tandakan bukti sebagai tidak tersedia.
3. Buka rujukan dan sahkan konteksnya.
4. Kira semula angka penting secara bebas.
5. Salurkan output yang mempunyai akibat penting kepada penyemak yang berkelayakan.

Langkah seterusnya yang munasabah

Ambil satu dokumen terkini yang dibantu AI dan bina rekod dakwaan yang menunjukkan sumber, status pengesahan dan penyemak. Teruskan dengan resipi AI praktikal, bandingkan alat AI yang telah disemak atau gunakan AI Finder untuk memperincikan keputusan anda yang seterusnya.