ハルシネーションと似たAI用語の見分け方
ITパスポート試験 令和7年度 問10 ／ ビジネスインダストリ › ビジネスシステム
過去問にチャレンジ
生成AIにおいて，もっともらしいが事実とは異なる内容が出力されることを表す用語として，最も適切なものはどれか。
- ア
エコーチェンバー
- イ
シンギュラリティ
- ウ
ディープフェイク
- エ
ハルシネーション
会話形式の解説
講師今回は生成AIに関する用語の問題です。注目してほしいのは、「生成AIの出力で起きること」と「もっともらしいが事実ではない」という2点です。
受験者カタカナ語が四つ並んでいて、どれもAIやネットのニュースで聞いたことがあります。私は「偽物」のイメージからディープフェイクが気になりました。
講師そこは迷いやすいところですね。ディープフェイクは、深層学習（ディープラーニング）などの技術を使って作った精巧な偽の画像・動画・音声のことです。人が意図して作る偽造コンテンツを指します。
受験者人がわざと作るものなんですね。今回の問題は、AIが勝手に間違えてしまう話だと読めばいいでしょうか。
講師そのとおりです。どちらも事実と異なる内容に関わる言葉ですが、AIが意図せず誤った内容を出してしまう現象を指すのはハルシネーションです。英語で「幻覚」を意味する言葉が語源です。
受験者AIが幻覚を見ているように、ありもしないことを話してしまう、というイメージですね。
講師いいイメージです。存在しない事実や出典が自然な文章で示されることもあるので、見た目だけでは誤りに気付きにくいのが特徴です。
受験者残りの二つも確認させてください。エコーチェンバーは、SNSで同じ意見ばかり目にする状態のことだったと思います。
講師はい。似た意見を持つ人が集まる場で同じ意見ばかりが反響し、特定の考えが増幅される現象です。情報環境の偏りを表す言葉なので、生成AIの誤った出力とは別物です。
受験者シンギュラリティは、AIが人間を超えるという話ですよね。
講師そうです。「技術的特異点」と訳され、AIが人間の知能を超える転換点を指します。将来の技術の到達点に関する概念なので、個々の出力が事実と違うという現象とは関係ありません。
受験者整理すると、情報環境の偏りがエコーチェンバー、未来の転換点がシンギュラリティ、人が意図して作る偽物がディープフェイク、AIが意図せず誤るのがハルシネーション、ですね。
講師よくまとまっています。補足すると、信頼できる情報源を参照させる仕組み、たとえばRAGなどを組み合わせるとハルシネーションを減らせますが、完全に防ぐことは難しいとされています。だから生成AIの出力は鵜呑みにせず、人が事実確認することが大切です。
まとめ
生成AIがもっともらしいが事実と異なる内容を出力する現象はハルシネーション（幻覚）と呼ばれます。ディープフェイクは深層学習などで人が意図して作る偽の画像・動画・音声で、「AIが意図せず誤る」ハルシネーションとは性質が異なります。エコーチェンバーは同じ意見ばかりが反響して増幅される情報環境の偏り、シンギュラリティはAIが人間の知能を超える転換点を指します。ハルシネーションはRAGなどで減らせても完全には防げないため、出力を人が事実確認することが大切です。
解答・解説
正解はエです
この問題のテーマ
生成AIが「もっともらしいが事実と異なる内容」を出力する現象を指す用語を、AIや情報社会に関する似た用語と区別できるかを問う問題です。
解き方の考え方
まず問題文のキーワードを押さえます。「生成AIの出力」で起きることと、「もっともらしいが事実ではない」という2点です。次に、各選択肢の用語が何を指すかを考えます。具体的には、情報空間の偏り、未来の転換点、意図的に作られた偽物、AIの意図しない誤出力のどれに当たるかで分けます。AI自身が意図せず誤った内容を出す現象を指すのは一つだけなので、そこから正解が決まります。
選択肢ごとの解説
- ×ア エコーチェンバーエコーチェンバーは、似た意見を持つ人が集まる場で同じ意見ばかりが反響し、特定の考えが増幅される現象です。SNSやオンラインコミュニティで起こりやすいとされます。情報環境の偏りを表す言葉で、生成AIの誤った出力を指すものではありません。
- ×イ シンギュラリティシンギュラリティは「技術的特異点」と訳され、AIが人間の知能を超える転換点を指します。その後は人間による予測や制御が及ばなくなるおそれが指摘されています。将来の技術の到達点に関する概念であり、個々の出力が事実と異なるという現象とは関係ありません。
- ×ウ ディープフェイクディープフェイクは、深層学習などの技術を使って作られた精巧な偽の画像・動画・音声です。人が意図して作る偽造コンテンツなので、AIが意図せず誤った内容を出してしまう現象とは性質が異なります。「偽物」という点が問題文と似ているため、引っかけになりやすい選択肢です。
- ○エ ハルシネーションハルシネーションは、生成AIがもっともらしいものの事実とは異なる内容を出力する現象で、問題文の説明と一致します。語源は英語で「幻覚」を意味する言葉です。存在しない事実や出典が自然な文章で示されることもあるため、見た目だけでは誤りに気付きにくいのが特徴です。
補足
見分け方のコツは、「AIが意図せず誤る」のか「人が意図して偽物を作る」のかを区別することです。前者がハルシネーション、後者がディープフェイクにあたります。なお、信頼できる情報源を参照させる仕組み（RAGなど）を組み合わせるとハルシネーションを減らせますが、完全に防ぐことは難しいとされています。
POINT
- 生成AIがもっともらしい誤情報を出力する現象をハルシネーション（幻覚）と呼びます。
- ハルシネーションでは、存在しない事実や出典がもっともらしく示されることがあるため、出力を鵜呑みにせず人が事実確認することが大切です。
- エコーチェンバーは、同じ意見ばかりが反響して増幅される、情報環境の偏りを表す用語です。
- シンギュラリティ（技術的特異点）は、AIが人間の知能を超える転換点を指す用語です。
- ディープフェイクは、深層学習などで意図的に作られた偽の画像・動画・音声を指します。