ChatGPTの答えが本当かどうか信用できない

もっともらしいのに違う、が起きる理由

やっかいなのは、間違いが「自信のなさそうな文」で出てくるとは限らないことです。落ち着いた言い切りの文で、体裁も整っている。読んだ感じだけでは見分けにくいのです(生成AIが、事実でないことをもっともらしく書いてしまうこの現象は「ハルシネーション」と呼ばれることがあります)。

「調べものには使うけれど、そのまま人に見せるのは怖い」——AIの答えの、どこまでを信じてよいのか。読んだ感じでは間違いを見分けられない仕組みである以上、線引きに迷うのは自然なことです。

総務省が一般向けに公開している教材(ver1.0)では、偽の情報・誤った情報が増える原因として、裏づけのないまま答えることがある、学習したもとのデータが不正確だったり偏っていたりする、正確なデータをもとにしても出てくる情報が正しいとは限らない、といった性質が挙げられています(出典:総務省「生成AIはじめの一歩」)。

同じ教材には、実際に生成AIに作らせた例が載っています。「西日本で最も高い山を10件」と頼むと、実在しない山が混ざり標高も不正確。「駅の近くで平日ランチの和食の店を5件」と予算などを指定して頼むと、存在しない店が混ざり、場所も違い、予算も大きく超えていた、というものです。

この2例から読み取れる、間違いが出やすい場所は3つです。名前(教材の例では山名・店名。商品名や制度名も同じ危うさがあります)、数字、そして「そもそも実在するのか」。確かめる場所は、まずここに絞ります。

※本記事は2026年8月時点の情報です。画面の表記や機能の場所は、機種・バージョンにより異なる場合があります。

手順1: 確かめる所に印をつける

ここから4つの手順で、返ってきた答えを確かめます。

1. 数字・名前・日付に印をつける。 料金・期限・件数、人名・店名・商品名・制度名、そして日付。スクリーンショットでも、メモへの貼り付けでも構いません。
2. 「実在するか」を先に確かめる。 店・本・制度・会社・URL。内容の正しさより先に、名前をそのまま検索窓へ入れて公式サイトが出るかを見ます。検索結果の一番上が公式とは限りません。紹介記事やまとめサイトではなく、その会社・役所自身のページを開き、運営者名や所在地まで合っているかを見ます(国や自治体のサイトは、アドレスに go.jp や lg.jp が入っています)。数が多い時は、確かめる名前だけをメモに書き出してから始めます。

手順2: 確かめる相手は、AIの外に取る

「これ本当ですか?」とAI自身に聞き返しても、確かめたことにはなりません。総務省の教材では、生成AIが偽・誤情報を答える恐れがあるため「生成AIに真偽を問うことは適切ではない」と明記されています。聞き返すと謝って別の答えを出すことがありますが、その新しい答えが正しい保証はありません。

手順3: 出典を開き、その言葉があるか探す

1. 出典は、まず画面に出ているものを開く。 ChatGPTなどがインターネットを調べて作った答えでは、答えの下に出典や「Sources(出典)」といった表示が出ることがあります(表示の有無や呼び名は、サービスや版によって異なります)。料金や期限のように出典が要る質問では、頼む時に「ウェブで検索して、出典のリンクを付けて答えてください」と一行足しておきます。表示が無い時だけ、次の節の頼み方で出典を出させます。
2. 出てきたリンクを自分で開く。 出典として示されたリンクが開けない、または開いたページが見つからないことがあります。開けない・見つからない時は、その根拠は無かったものとして扱います。
3. 開いたページに、その言葉が本当にあるか探す。 AndroidのChromeなら、右上のその他アイコン(点が3つ縦に並んだ印)をタップ→「ページ内を検索」→語句を入力→「検索」で、一致した箇所が色つきで表示されます(Google公式ヘルプ)。iPhoneのSafariなら、アドレスバー左端の「ページ設定」ボタン(「あA」などの印)をタップ→虫めがねの「ページを検索」をタップ→検索欄に語句を入力します(iOS 17以前は、画面下の共有ボタンをタップ→「ページを検索」)(Apple公式ガイド)。呼び名や場所はiOSの版により異なります。パソコンではCtrlキー(MacはCommandキー)を押しながらFでも同じことができます。ページは開けたのに数字や名前がどこにも書かれていない、という外れ方があります。見つからなければ、その部分は裏が取れていないものとして扱います。数字が見つからない時は、カンマや単位を外して数字だけ(例: 1200)で探し直します。

手順4: 公式・窓口で確かめてから、人に渡す

1. 手続き・料金・期限は、公式サイトと見比べる。 役所や会社の公式サイトに同じことが書かれているかを見ます。
2. 健康・お金・法律は、窓口に確かめる。 医療機関、契約先の窓口、公的な相談窓口へ。AIの答えは判断の材料にしません。
3. 転送は、確かめ終わってから。 教材では、確かめても見抜けないことがある前提で、安易に拡散しないよう呼びかけられています。

そのまま打てる文例

例1 事実と推測を分けさせる

今の答えを、次の形に書き直してください。
1. 事実として確認できる部分と、あなたの推測にあたる部分を分ける
2. 事実の部分には、確認できる出典(発行元の名前・ページ名・URL)を付ける
3. 出典を示せない部分は「出典なし」とはっきり書く

「出典なし」の部分が、自分で確かめるべき場所です。出典が付いた部分も、そのままでは確かめたことになりません。手順3のとおり、リンクを自分で開いて、その言葉がページの中にあるかまで見ます。

例2 確かめる場所の当たりをつけさせる

この答えの中で、私が公式サイトで確かめたほうがよい点を、
重要な順に3つだけ挙げてください。
それぞれ、どこ(役所名・会社名など)を見れば確かめられるかも書いてください。

これは手順2の「真偽をAIに聞かない」とは別ものです。確かめる場所の見当をつけているだけです。

任せやすい頼みごと・慎重にすべき頼みごと

任せやすいもの:

• 文章を短くする・言い換える・ていねいな言い方に直す
• 長い文章の要点を並べる、段取りや持ち物のたたき台を作る
• あいさつ文や案内文の下書き
• 手元にある文章や表・コードを、平たい言葉で説明させる(説明は言い換えなので、動かした結果や現物と見比べます)

確かめてから使うもの:

• 店・本・制度・会社などの名前(実在するか)
• 料金・期限・寸法・件数といった細かい数字、合計や割引の計算
• 「今の」「最新の」が付く話題(いつの時点の情報かは示されないことがあります)
• 人物や会社の経歴・肩書き

判断そのものを預けないもの:

• 症状や薬など健康に関すること
• 契約・借入・税金などお金に直接かかわること、法律が自分に当てはまるかの判断

それでも不安なときのチェックリスト

信用できるかどうかを答え全体で決めようとすると、いつまでも迷います。印をつけた数か所だけをAIの外で確かめる、と先に決めておくほうが、迷わずに済みます。