用語解説 · Core Concepts

Hallucination

ハルシネーション（幻覚）

Core Concepts 新手

30秒バージョン · 忙しい方へ

AIが事実として確信を持って述べているが、実際には誤りや捏造の情報を生成すること。

詳しく読む +

01 · これは何？

ハルシネーション（幻覚）とは、言語モデルが尤もらしく見えて自信を持って表現されているが、実際には間違っているか完全に捏造された情報を生成することを指します。重要な点：AIはハルシネーションを起こしているときにそれを知らないということです。言っていることが正しいと本当に「信じている」のです。なぜなら、言語モデルのトレーニング目標は「次の尤もらしいトークンを生成すること」であり、「事実を確認してから出力すること」ではないからです。 Claudeが表現する確信度からその答えが正しいかどうかを判断できません。ハルシネーションの危険性は、正しい答えと形式的に区別できないことです。

02 · なぜ存在する？

ハルシネーションは、言語モデルのトレーニング目標の直接的な副産物です。モデルは「次のトークンを予測する損失関数を最小化する」ようにトレーニングされており、言語的に流暢なテキストを生成することが得意になります。しかし、このトレーニング目標自体は「正確性」を要求していません。言語モデルには「わからない」という内部状態がありません。信頼できるデータがないトピックについて尋ねられると、捏造であっても尤もらしいコンテンツを生成し続けます。

03 · 意思決定にどう影響する？

ハルシネーションの存在を知ることで、3つの作業習慣を調整する必要があります： Claudeの出力を答えではなく草稿として扱う。数字、統計データ、学術的な引用、法的なテキストは、ハルシネーション率が最も高く、使用前に独立して検証する必要があります。 RAGを使ってハルシネーション率を下げる。RAGアーキテクチャを使って実際のデータをプロンプトに注入します。 Claudeに不確実性にフラグを立てるよう求める。System Promptに「事実について不確かな場合は、不確かであることを明示してください」と追加します。

04 · どうすればいい？

すぐにできる3つのこと：「要検証」リストを作成する。概念的な説明はハルシネーション率が低い；具体的な数字、引用、法規制、帰属された引用はハルシネーション率が高く、検証が必要です。高リスクタスクで多段階確認を使用する。まずClaudeに答えを出してもらい、「この答えにどのくらい自信がありますか？不確かな部分はどこですか？」とフォローアップします。引用を直接ソースとしてではなく検索の手がかりとして扱う。ClaudeがくれたAuthor名と年でGoogle Scholarを検索して確認します。

具体例 +

シナリオ：AI規制に関する分析レポートを書いており、学術研究を引用する必要がある。間違ったワークフロー：「AIの厳格な規制を支持する研究は何がありますか？」と聞くと、著者名、雑誌名、年、要約を含む5つの完全に見える引用を提供します。直接コピーして貼り付けると、公開後に読者が3つの引用が存在しないことを発見します。正しいワークフロー（4ステップ）： 1. 「具体的な引用は不要で、AI厳格規制を支持する主な学術的論点を要約してください」と聞く 2. これらの論点を検索の手がかりとしてGoogle Scholarで実際の論文を探す 3. 実際の論文が見つかったら、Claudeに内容の理解と要約を手伝ってもらう 4. 自分で存在を確認したソースのみを引用する

図解

スクリーンショット歓迎。転載時は出典を明記してください。

よくある誤解 +

✕ 誤解 1

× 誤解1：「Claudeが自信を持って言うほど、それが真実である可能性が高い」。ハルシネーションを起こしているときの確信度は、正確な情報を生成しているときと本質的に違いがありません。Claudeがどれほど確信を持って述べていても、事実的な主張は独立して検証してください。

✕ 誤解 2

× 誤解2：「最新バージョンのClaudeはハルシネーションを起こさない」。Claudeのすべてのバージョンはハルシネーションを起こします。最新バージョンを使っているからといって、検証の習慣を緩めないでください。

The Missing Link +

直接的な影響

AI生成の事実的コンテンツの速度 vs 検証コスト：高リスクシナリオ（法的文書、医療情報、金融レポート）では、検証コストが速度上のメリットを上回る場合があります。 RAG vs 純粋な言語モデル：RAGアーキテクチャを使用するとハルシネーション率が大幅に低下しますが、追加のシステム複雑性が導入されます。精度要件が高いアプリケーションでは、この投資は価値があります。

質問する