ハルシネーション（Hallucination）

ハルシネーション（Hallucination）とは、AI、特に文章を生成する生成AIが、事実に基づかない誤った情報を、あたかも正しいことのようにもっともらしく作り出してしまう現象のことです。英語で「幻覚」を意味する言葉が、AIの誤った出力を表す用語として使われています。

現実世界に例えると、ハルシネーションは知らないことを聞かれても、自信満々にそれらしい答えを返してしまう人のようなものです。本人（AI）に悪意はなくても、正しいかどうかを確かめないまま話してしまうため、聞いた側が誤った情報を信じてしまう危険があります。

ハルシネーション 図解

ハルシネーションが起きる仕組み

生成AIは、学習したデータをもとに、文章として「もっともらしくつながる言葉」を予測して出力しています。事実かどうかを厳密に確認する仕組みそのものは備えていないため、自然な文章として成立していても、内容が事実と異なる場合が生じてしまいます。

ハルシネーションが起きやすい場面

利用者側でできる対策

AIが出した回答をそのまま信じるのではなく、重要な情報については、信頼できる別の情報源で裏付けを取る習慣が欠かせません。特に数字や固有名詞、日付などは誤りが紛れ込みやすいため、慎重に確認することが望まれます。

開発側の取り組み

AIを提供する企業側でも、回答の根拠となる情報源を示す仕組みや、事実確認の精度を高める工夫が進められています。しかし現時点では、ハルシネーションを完全になくすことは難しいとされており、利用者側の確認も引き続き重要です。

ハルシネーションが問題になった事例

実在しない判例をAIが作り出し、そのまま資料に引用してしまったケースなど、専門的な場面でハルシネーションが実際のトラブルにつながった例が報告されています。便利さの裏にあるこうしたリスクを理解しておくことが大切です。

用途に応じた付き合い方

アイデア出しや文章の下書きなど、誤りがあっても後で人が確認・修正できる用途では、AIの活用は大きな効率化につながります。一方、正確性が強く求められる場面では、AIの回答を鵜呑みにしない姿勢がこれまで以上に重要になります。

あわせて知っておきたい用語

• 生成AI：
  文章や画像などを新たに作り出すことができるAIの総称です。
• 大規模言語モデル（LLM）：
  大量の文章データを学習し、自然な文章を生成する仕組みです。
• プロンプト：
  生成AIに与える指示や質問の文章です。
• ファクトチェック：
  情報が事実に基づいているかどうかを確認する作業です。
• 機械学習：
  AIが大量のデータからパターンを学び取る、基盤となる技術です。
• AI（人工知能）：
  知的な作業をコンピューターで再現しようとする技術の総称です。
• ファインチューニング：
  特定の用途に合わせてAIの性能を調整する追加学習のことです。