ハルシネーションとは｜AIがもっともらしく間違える理由と対策

この記事でわかること

AIが事実ではない情報を、もっともらしく生成することを一般にハルシネーションと呼びます。

例：

AIの文章は自然なので、間違っていても気づきにくいことがあります。

特に危険なのは、

などです。

AIの回答だけで終わらず、元情報を確認します。

「事実」「推測」「提案」を分けて出力させます。

例：

以下の内容を、確認済み事実・推測・提案の3つに分けてください。

数字は特に間違いやすいので、一次情報を確認します。

不明な点は推測せず、「不明」と明記してください。

と指示します。

悪い使い方：

この市場規模を教えて

良い使い方：

市場規模について、確認できる公的・一次情報を優先し、出典が確認できない数字は使わないでください。

AIに自社業界の市場規模を聞き、その回答の数字を1つだけ実際に確認してください。

AIは便利ですが、

自然な文章 = 正しい情報

ではありません。

確認する習慣が必要です。