ひとことで言うと
AIが事実でないことをもっともらしく生成する現象。固有名詞・数値で起きやすい。
ハルシネーションとは、AIが事実と異なる内容を、もっともらしい文章でさも本当のように生成してしまう現象です。AIは「正しい知識を検索している」のではなく「次に来そうな言葉を予測している」ため、知らないことでも自信ありげに答えてしまうことがあります。
特に固有名詞・数値・URL・引用元など、正確さが問われる箇所で起きやすいのが厄介な点です。実務では、AIの出力を鵜呑みにせず必ず一次情報で裏取りする運用が欠かせません。社内資料を検索して回答に使うRAGを組み合わせると、根拠のある回答に近づけられ、ハルシネーションを抑える有効な対策になります。