AIに頼りすぎ

AIの答えに古い情報が混ざっていた。研究では調べた24種類のAIすべてで1割以上が古い答えで、使う前に日付と出典を確かめる

約9分で読めます

わかっている度 ★★☆ 中研究3本・公的資料3件を整理
Newspaper
Photo: Bernerlover / CC BY 4.0 / Wikimedia Commons
AIによる調査公開された研究と公的機関のデータ・指針をAIが調べて整理しました(商品の紹介や診断はしていません。出典は末尾)。

AIに聞いた料金や担当者の名前が、もう変わっていた。そんな経験をした人は少なくありません。AIの答えが古くなるのは、使い方が悪いからではなく、AIが「ある時点までの文章」から作られている仕組みのためです。どんな答えが古くなりやすいかを知り、使う前に日付と出典を見る手順を決めておけば、古い情報で困る場面はぐっと減らせます。

3行でわかる

  1. AIは、作られた時点までの文章をもとに答えます。2023年12月時点の研究では、国のトップや会社の役職など有名な事実130件を聞くと、24種類のAIすべてで1割以上の答えが古いものでした。
  2. AIの作り手が示す「知識の時点」も、そのまま信じきれません。実際に覚えている情報が、示された時点より何年も前に寄っていた例が研究で見つかっています。
  3. 検索つきのAIでも、必要な記事が見つからないと古い答えを返すことがありました。料金・制度・法律・人の役職などは、出典を開いて日付を確かめてから使います。

01 結論から言うとAIの答えが古い情報になるのはなぜ?

生成AIは、作られた時点までに集めた文章から答えを組み立てるため、その後に変わった事実を知りません。古い答えも自然な文章で出てくるので、変わりやすい情報ほど、日付と出典を自分で確かめる必要があります。

生成AIは、大量の文章を読んで言葉のつながり方を覚えています。読ませた文章は、ある時点で集め終わります。この区切りは「知識の時点(ナレッジカットオフ)」と呼ばれます。

その後に料金が上がったり、制度が変わったり、担当者が交代したりしても、AIの中身は自動では書き換わりません。しかもAIは、古い情報を「以前は」と断らずに、今の話のように答えることがあります。

間違いの中でも、古さは見落としやすい種類です。答えそのものは、かつては正しかったからです。もっともらしい誤り(ハルシネーション)全般の確かめ方はAIの答えが間違っていた。ハルシネーションはどのくらい起きる?で整理しています。この記事は「いつの情報か」を確かめる手順に絞ります。

02 研究とデータでわかっていることAIの答えは、どのくらい古い?

有名な事実でも、研究で調べた24種類のAIはすべて1割以上の答えが古いものでした。作り手が示す知識の時点と実際の中身がずれることもあり、検索つきでも記事が見つからないと古い答えが出ていました。

13〜49%時間で変わる有名な事実130件を聞いたとき、古い答えだった割合(24種類のAI、2023年12月時点の正解と照合)
20%その中で最も成績のよかったGPT-4でも、古いか無関係だった答えの割合(同じ研究)
34%検索つきのAIが、その週の出来事についての質問で、必要な記事を見つけられずに外した割合(2022年6〜7月の6週間)
約24時間質問が出てから、検索つきのAIの成績が高いまま保たれた時間の目安。それ以降は大きく下がった(同じ研究)

Mousaviら / イタリア・トレント大学(2024)[1]

国のトップ、スポーツ選手の所属チーム、会社の役職といった、時間で変わる有名な事実130件を24種類のAIに聞きました。正解を2023年12月18日時点のウィキデータ(誰でも編集できる知識のデータベース)と照合すると、古い答えの割合はAIによって13〜49%でした。最も成績のよかったGPT-4でも、正しかったのは80%で、20%は古いか無関係な答えでした。2024年に出たAIの一部でも、40%を超える質問で誤りが出ていました。

対象: 2019〜2024年に公開されたAI 24種類、事実130件(各質問を3通りの聞き方で質問し、1回でも正しければ正解とした甘めの数え方) / 限界: よく知られた人や組織に絞った質問で、日本の料金や制度のような身近な情報は調べていません。

Chengら / 米ジョンズ・ホプキンス大学(2024)[2]

AIの作り手が示す「知識の時点」と、AIが実際に覚えている情報の時点(実効の時点)を比べました。両者は大きくずれることが多くありました。たとえば2023年のウィキペディアを学習に入れたと明記されたAIでも、ウィキペディアについての知識は2019年ごろに寄っていました。新しい時期に集めたデータの中に、古い文章が多く混ざっていたことが原因の一つでした。

対象: 中身が公開されている学習データを使うAI(2019〜2024年ごろのもの) / 限界: 論文の中で、税金の基準額のような例を挙げて利用者が困る場面を想像として示していますが、実際の利用者の被害は測っていません。

Kasaiら / 米トヨタ工業大学シカゴ校・東北大学ほか(2023)[3]

毎週、その週の出来事についての質問を出し、AIに答えさせました。検索つきのAI(GPT-3にGoogle検索を組み合わせたもの)は、新しい記事が見つかると答えを正しく更新できました。一方、最初の6週間の答えでは、正解は52%で、34%は検索で必要な記事が見つからないことによる誤りでした。記事が古いか関係がないとき、AIは時間のずれを無視して古い答えを返しました。

対象: 2022年6〜7月に出された英語ニュースの質問 / 限界: 2022年当時のAIで、今の検索つきAIとは仕組みも精度も違います。

国も、使う側の確認を求めています。総務省と経済産業省の「AI事業者ガイドライン(第1.2版、2026年3月)」は、AIを使う人に向けて「AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する」ことを挙げています。入力するデータについても、必要な場合には「最新性」が担保されたものを使うよう求めています。[4]

同じガイドラインの別添は、インターネットをリアルタイムで検索して最新のデータで答えられるようにする目的で、検索を組み合わせる仕組みが使われていると説明しています。[5] 令和6年版の情報通信白書も、誤った情報が出る可能性を念頭に置き、検索を併用するなどして、出力した答えが正しいかを利用者が確認することが望ましいとしています。[6]

03 まだわかっていないこと今のAIなら、古い答えはもう出ない?

まだ結論は出ていません。研究で調べたのは2019〜2024年ごろのAIで、今使われているAIが日本語の身近な質問でどのくらい古い答えを出すかは、確かめた研究がほとんどありません。

  • 研究のAIは2024年までに公開されたものです。AIは数か月ごとに新しくなるため、割合はそのまま今のAIには当てはまりません。
  • 調べた質問は、国のトップや有名な選手・企業のような、よく知られた事実が中心です。日本の料金、制度、地域の窓口のような身近な情報がどのくらい古くなるかは、わかっていません。
  • 検索つきのAIが、日本語の質問で古い記事をどのくらい拾うかを測った研究は、見つけられませんでした。
  • 古い答えのせいで、どのくらいの人が実際に損をしているのかも、数字はまだありません。

04 今日からできること古い情報をつかまないためには?

答えを使う前に「変わりやすい情報か」を見分け、変わりやすいものだけ出典を開いて日付を確かめます。最後は公式サイトや役所などの一次情報で今の内容を見て、確かめた日をメモに残します。

全部を確かめるのは大変です。まずは、答えが時間で変わる種類かどうかで分けます。次の表は、研究で古い答えが多かった事実の種類をもとに、暮らしの場面に当てはめた目安です。

変わりやすさの目安(SEADICEによる整理)

  • 変わりやすい(必ず確かめる): 料金・価格、税金や手当の金額、法律や制度、会社や役所の担当者・役職、アプリの操作手順、ニュース
  • ときどき変わる(大事な場面では確かめる): 会社や店の営業時間・窓口、商品の仕様、学校や職場のルール
  • ほとんど変わらない(古さの心配は小さい): 言葉の意味、計算のやり方、歴史上の出来事の年号
1

答えが「変わりやすい情報」かを先に見分ける

上の目安で、答えの中に料金・制度・人の役職・手順が入っていないか見ます。入っていたら、その一文だけに印を付けて、次の手順で確かめます。

目安 10秒

2

出典を出してもらい、開いて日付を見る

「この内容の出典と、その情報の日付を示して」と聞き直します。出てきた出典は必ず開き、更新日や公開日を見ます。開けない出典や、何年も前の記事だけなら、その答えは使いません。

目安 1〜3分

3

一次情報で「今」の内容を確かめる

料金はサービスの公式サイト、制度や手当はそれを担当する役所のページ、法律は法令の公式の検索サイトで見ます。AIの答えと違えば、一次情報のほうを使います。

目安 3〜5分

4

検索つきのAIでも、拾った記事の日付を見る

検索つきでも、必要な記事が見つからないと古い答えが出ることが研究でわかっています。答えの横に出る記事の日付を見て、最近の出来事を聞いたのに古い記事しかなければ、自分で検索し直します。

目安 30秒

5

確かめた日と出典をメモに残す

人に送る文章や仕事の資料に使うときは、「2026年10月13日に公式サイトで確認」のように、日付と出典を書き添えます。あとで内容が変わっても、いつの情報か自分にも相手にもわかります。

目安 1回30秒

仕事でAIに作らせた資料の確かめ方は仕事でAIに作らせた文章や資料、そのまま出して大丈夫?、検索結果の上に出るAIの要約の扱い方は検索結果の上に出るAIの要約は信じていい?で紹介しています。古い答えを信じて契約やお金のトラブルになったときは、AIの答えを信じて契約し、損をしたで記録の残し方と相談先をまとめています。

05よくある質問

AIに「いつまでの情報を知っている?」と聞けば、古さはわかる?

手がかりにはなりますが、それだけでは足りません。2024年の研究では、AIの作り手が示す知識の時点と、実際にAIが覚えている情報の時点が大きくずれることがありました。答えの一文ごとに、出典の日付を見るほうが確実です。

検索つきのAIなら、いつも最新の情報で答えてくれる?

いつもではありません。2022〜2023年の研究では、検索つきのAIでも、検索で必要な記事が見つからないと古い答えを返すことがありました。答えに付いた出典を開き、その記事の日付を見てから使います。

どんな質問の答えが古くなりやすい?

時間とともに変わる事実です。研究で古い答えが多く出たのは、国のトップ、スポーツ選手の所属、会社の役職でした。暮らしの中では、料金、制度、法律、アプリの操作手順、ニュースも同じように変わるので、確かめる対象にします。

「AIに頼りすぎ」を順に読む
知る → 備える(この記事) → 起きたとき → 立て直す
この悩みのガイドを見る

出典

  1. Mousavi SM, Alghisi S, Riccardi G (2024). DyKnow: Dynamically Verifying Time-Sensitive Factual Knowledge in LLMs. Findings of the Association for Computational Linguistics: EMNLP 2024, 8014–8029. https://doi.org/10.18653/v1/2024.findings-emnlp.471
  2. Cheng J, Marone M, Weller O, Lawrie D, Khashabi D, Van Durme B (2024). Dated Data: Tracing Knowledge Cutoffs in Large Language Models. Conference on Language Modeling (COLM 2024). https://arxiv.org/abs/2403.12958
  3. Kasai J, Sakaguchi K, Takahashi Y, ほか (2023). RealTime QA: What's the Answer Right Now? Advances in Neural Information Processing Systems 36 (NeurIPS 2023), Datasets and Benchmarks Track. https://proceedings.neurips.cc/paper_files/paper/2023/hash/9941624ef7f867a502732b5154d30cb7-Abstract-Datasets_and_Benchmarks.html
  4. 総務省・経済産業省 (2026). AI事業者ガイドライン(第1.2版)本編. 第5部 AI利用者に関する事項. https://www.soumu.go.jp/main_content/001064279.pdf
  5. 総務省・経済産業省 (2026). AI事業者ガイドライン(第1.2版)別添(付属資料). https://www.soumu.go.jp/main_content/001064286.pdf
  6. 総務省 (2024). 令和6年版 情報通信白書 第4章第1節 AIの進化に伴う課題と現状の取組. https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/pdf/n1410000.pdf