スレ主
ハルシネーション
幻覚。
生成AIが誤った結果を出力してしまう現象のこと。AIは性質上、統計的にもっともらしい言葉をつなぎ合わせて、それらしい『作り話』を生成することがある。
AIの現象はある程度は解明されていて、『学習内容の偏り』や『解答しないより誤答を出力した方が良い評価を受ける評価方法』などにより発生する。ファクトチェックを行い、誤答を出力した場合の評価を大きく下げるなどの対策をとると抑えられるようになるとされる。