ChatGPTの答えが本当かどうか信用できない

もっともらしいのに違う、が起きる理由

間違いは落ち着いた言い切りの文で出てくるので、読んでも見分けにくいのです(事実でないことをもっともらしく書く現象は「ハルシネーション」と呼ばれることがあります)。

総務省の教材(ver1.0)では、裏づけなく答えることがある、もとの学習データが不正確・偏っている、正確なデータからでも正しい情報が出るとは限らない、といった性質が挙げられています(出典:総務省「生成AIはじめの一歩」)。

教材の実例では、実在しない山や店が混ざり、標高も予算も違っていました。間違いが出やすい場所は、名前(店名・商品名・制度名)・数字・「実在するのか」の3つです。

※本記事は2026年8月時点の情報です。画面の表記や機能の場所は、機種・バージョンにより異なる場合があります。

手順: 印をつけて、AIの外で確かめる

1. 数字・名前・日付に印をつける。 料金・期限・件数、人名・店名・商品名・制度名、日付。スクリーンショットでも構いません。
2. 「実在するか」を先に確かめる。 内容より先に、名前をそのまま検索窓へ。まとめサイトではなく、その会社・役所自身のページ(国や自治体は go.jp や lg.jp)を開いて確かめます。
3. 出典を開き、その言葉があるか探す。 出典が無い時は「ウェブで検索して、出典のリンクを付けて答えてください」と頼みます。リンクは自分で開き、開けない・見つからない時は根拠が無かったものとして扱います。

「本当ですか?」とAI自身に聞き返しても確かめたことになりません。総務省の教材でも、生成AIに真偽を問うのは適切でないとされています。

パソコンはCtrl(MacはCommand)キーとFで探せます。ページは開けても数字も名前も無ければ、その部分は裏が取れていないものとして扱います。
出典: Google公式ヘルプ / Apple公式ガイド

手続き・料金・期限は公式サイトと見比べます。健康・お金・法律は、医療機関や契約先、公的な相談窓口へ。AIの答えで決めず、人に送るのも確かめてからです(教材でも安易な拡散を控えるよう呼びかけられています)。

そのまま打てる文例

今の答えを、次の形に書き直してください。
1. 事実として確認できる部分と、あなたの推測にあたる部分を分ける
2. 事実の部分には、確認できる出典(発行元の名前・ページ名・URL)を付ける
3. 出典を示せない部分は「出典なし」とはっきり書く

「出典なし」の部分が、自分で確かめる場所です。出典付きも、リンクを開いて言葉があるかまで見ます。

任せやすい頼みごと・慎重にすべき頼みごと

説明は言い換えなので任せられますが、結果や現物とは見比べます。

それでも不安なときのチェックリスト

答え全体で信用できるかを決めようとすると迷い続けます。印をつけた数か所だけをAIの外で確かめる、と先に決めるほうが早く終わります。