ハルシネーションとは?
ハルシネーションとは、生成AIが事実と異なる内容をもっともらしく生成してしまう現象のこと。「幻覚」の意で、存在しない文献・統計・URLを自信を持って出力するのが典型例です。LLMの原理に由来するため完全には防げません。
実務での使い方
LLMは「確からしい続きの言葉」を生成する仕組みのため、知らないことでも空白を埋めるように文章を作ってしまいます。特に固有名詞・数値・出典・最新情報で起きやすく、要約でも原文にない内容が混ざることがあります。
実務の対策は、①事実確認が必要な用途では出典を人間が検証する②「わからない場合はわからないと答えて」と指示する③自社データを参照させるRAG構成にする④最終判断は人間が行うルールにする、の組み合わせです。用途を「たたき台作成」に限定するのも有効な割り切りです。
この用語に関連する無料ツール
もっと詳しく学ぶ
- 生成AIの社内ガイドラインの作り方｜必須6項目とひな形・運用のコツ
生成AIの社内利用ガイドラインに書くべき必須6項目(目的・許可ツール・入力禁止情報・出力の扱い・禁止事項・相談窓口)を解説。全面禁止が逆効果な理由と、定着させる…
- AI議事録の作り方｜ChatGPTで会議メモを要約する手順とプロンプトの考え方
ChatGPTなど生成AIで議事録を作る手順を解説。要約プロンプトに入れるべき要素、決定事項・ToDo・期限を漏らさない型、機密情報の扱いと確認の注意点まで実務…