AIが挙げた論文や文献が、実在しなかった。研究では1〜3割が架空で、使ってしまったら1件ずつ確かめて自分から訂正する
AIが挙げてくれた論文を探したら、どこにも見つからない。すでに資料やレポートに載せて、提出してしまった。そう気づいたときは焦りますよね。でも、これはあなただけに起きることではありません。研究では、AIが挙げる文献のおよそ2〜3割が架空だったという結果がくり返し出ています。この記事では、使ってしまったあとに確かめる順番と、自分から訂正するときの考え方を整理します。
3行でわかる
- AIに文献を挙げさせた研究では、架空の文献の割合は18%（2023年）、19.9%（2025年）、28.3%（2026年、3つのAIの合計）でした。実在する文献でも、著者や番号の誤りが多く混ざっていました。
- DOIのリンクが開けても安心できません。架空の文献に付いていたDOIの64%は、無関係の別の論文につながっていました。タイトルと著者が一致するかまで確かめます。
- 見つかったら、架空の文献に頼った主張を洗い出し、提出先に自分から伝えます。論文の撤回の研究では、自分から誤りを報告した著者は、過去の論文の引用が減っていませんでした。
01 結論から言うとAIの示した文献が見つからないのは、よくあること？
よくあることです。研究では、AIが挙げた文献の約2〜3割が実在しませんでした。見つかった時点で使うのを止め、全部の文献を1件ずつ確かめ、提出先に自分から訂正を伝えるのが近道です。
チャットAIは、もっともらしい文章をつなげて答えを作ります。そのため、実在する著者名や雑誌名を組み合わせた、存在しない文献ができあがることがあります。このような「もっともらしい誤り」は、ハルシネーションと呼ばれます。
架空の文献は、見た目では本物と区別がつきにくいのが厄介な点です。ChatGPTの文献を調べた研究者は、架空の文献が一見すると本物に見えることを、先行研究をもとに指摘しています[1]。見抜けなかったのは、注意が足りなかったからとは限りません。
この記事は、すでに使ってしまった「あと」のことを中心に書きます。使う前の確かめ方はAIの答えが間違っていた。ハルシネーションはどのくらい起きる？で、検索結果の上に出るAIの要約については検索結果の上に出るAIの要約は信じていい？で整理しています。
02 研究とデータでわかっていることAIが挙げる文献は、どのくらい架空なの？
2023〜2026年の研究で、AIが挙げた文献の約2〜3割が架空でした。実在する文献でも約4〜5割に誤りがあった研究があります。分野が専門的で、知られていない題材ほど架空の割合が高い傾向でした。
Walters・Wilder / Scientific Reports（2023）[1]
ChatGPTに42の題材で短い文献レビューを書かせ、84本に含まれた636件の文献を調べました。架空だった割合は、GPT-3.5で55%、GPT-4で18%でした。実在する文献でも、GPT-3.5で43%、GPT-4で24%に、内容にかかわる誤りがありました。
対象: 2023年時点の2つのモデル、さまざまな分野の42の題材 ／ 限界: 今のAIは当時より新しく、同じ割合とは限らない。
Linardonら / JMIR Mental Health（2025）[2]
2025年6月にGPT-4oで、うつ病など3つの心の病気について文献レビューを6本書かせました。176件の文献のうち35件（19.9%）が架空でした。実在した141件のうち64件（45.4%）に誤りがあり、最も多かったのはDOI（論文ごとの識別番号）の誤りでした。うつ病のようによく知られた題材では架空が6%でしたが、知られている度合いが中くらいや低い題材では28〜29%でした。
対象: 1つのモデル、心の健康の分野の3つの病気 ／ 限界: ほかの分野や、検索機能を使う場合に当てはまるかはわからない。
Seifi・Seyfi / Critical Care Explorations（2026）[3]
2026年3月10日に、3つのAIに脳神経の集中治療の10の題材で文献を10件ずつ挙げさせました。300件のうち55.0%に何らかの誤りがあり、28.3%は丸ごと架空でした。架空の割合はAIによって8%から50%まで差がありました。
対象: 3つのAI、ウェブ検索を使わない設定 ／ 限界: 1つの指示文で、1回だけ調べた結果。AIは更新が速く、時期によって変わりうる。
Chelliら / Journal of Medical Internet Research（2024）[4]
人が作った11本のシステマティックレビューと同じ条件で、AIに文献を探させました。タイトル・筆頭著者・発行年のうち2つ以上が誤っている文献の割合は、GPT-3.5で39.6%、GPT-4で28.6%、Bardで91.4%でした。
対象: 肩の腱板（けんばん）の病気についての医学の文献 ／ 限界: 2023年ごろのモデルで、今のサービスの性能を示すものではない。
使ってしまったあとの動き方の手がかりになる研究もあります。科学の世界では、誤りのある論文を取り下げることを「撤回」と呼びます。
Luら / Scientific Reports（2013）[5]
論文データベース（Web of Science）に記録された撤回を調べました。論文が撤回されると、同じ著者の過去の論文の引用が、比べた論文より平均で年6.9%減っていました。ただし、著者が自分から誤りを雑誌に報告した撤回では、この減少は見られませんでした。自分から報告した撤回は、全体の21.9%でした。
対象: 主に2000年以降の、さまざまな分野の論文の撤回 ／ 限界: AIとは関係のない研究で、職場や学校での評価をそのまま示すものではない。自分から報告する誤りは、もともと軽いものが多い可能性もある。
03 まだわかっていないこと検索機能つきのAIなら、架空の文献は出ない？
わかっていません。紹介した研究の多くは、ウェブ検索を使わない条件で調べています。検索機能つきのAIで架空の文献がどこまで減るかや、職場・学校で訂正した人がどう評価されるかの研究は、今回は見つかりませんでした。
- 2026年の研究は、ウェブ検索を使わない設定でした。検索した結果をもとに答える仕組みで、架空の文献がどのくらい減るかは、今回調べた範囲では十分に確かめられていません。
- 研究の多くは医学や心理学の分野です。法律・歴史・ビジネスなど、ほかの分野で同じ割合になるかはわかりません。
- 架空の文献を使ったと自分から伝えた人が、職場や学校でどう受け止められるかを調べた研究は見つかりませんでした。上の撤回の研究は、科学の論文の世界での結果です。
04 今日からできること架空の文献を使ってしまったら、何から始める？
まず配布や提出を止め、全部の文献をデータベースで1件ずつ確かめます。架空だった文献に頼った主張を洗い出して直し、提出先には自分から短く伝えます。次からは、自分で開いた文献だけを使います。
配布や提出の予定を、いったん止める
まだ送っていない分や、これから共有する予定のものは止めます。すでに渡した相手と日付をメモしておくと、あとで訂正を伝えるときに漏れません。
目安 5分
全部の文献を、データベースで1件ずつ確かめる
見つからなかった1件だけでなく、AIが挙げた文献はすべて確かめます。タイトルをそのまま論文データベースや図書館の検索に入れ、著者・年・雑誌名が一致するかを見ます。DOIが開けても、開いた先のタイトルと著者が同じかまで確かめます[2]。
目安 1件につき3〜5分
架空だった文献に頼った主張を洗い出す
架空の文献を根拠にしていた文や数字に印をつけます。実在する別の文献で裏づけられれば差し替え、見つからなければその主張を削ります。AIに「本物か」と聞き直すのは、確かめる方法になりません[1]。
目安 30分〜1時間
提出先や受け取った人に、自分から伝える
「どの文献が実在しなかったか」「どこを直したか」「直した版」の3点を短く伝えます。言い訳を重ねるより、事実と直した内容を先に書きます。仕事で出した場合の信頼の戻し方はAIの間違いを仕事で出して、信頼を失ったも参考になります。
目安 連絡1回・10分
次からは「自分で開いた文献だけ使う」と決める
AIに挙げてもらった文献は、探すための手がかりとして扱います。自分で本文か要旨を開いて読んだものだけを、資料やレポートに載せます。
目安 決めるだけなら1分
学校のレポートで使ってしまった場合は、授業ごとにAIの使い方のルールが違います。レポートや宿題にAIを使ったら不正？もあわせて読み、先生に直接相談してください。AIで作った資料の中身を自分の言葉で説明できるようにする方法は、AIで作った資料なのに、質問されて答えられなかったで整理しています。
05よくある質問
AIが挙げた文献が本物かどうか、AIに聞けばわかる？
頼りになりません。AIの文献を調べた研究者は、AIに「この文献は正しいか」と聞いても誤った答えが返ることが多いと、先行研究をもとに指摘しています。論文データベースや図書館の検索で、タイトルと著者を自分で確かめるのが確実です。
DOIのリンクが開けたなら、その文献は本物？
それだけでは言えません。2025年の研究では、架空の文献に付いていたDOIの64%は、開くと無関係の別の論文につながっていました。開いた先のタイトルと著者が、AIが示したものと一致するかまで確かめます。
架空の文献を使ってしまったことは、黙っていればいい？
自分から早めに伝えるほうが、あとの影響を小さくしやすいと考えられます。論文の撤回を調べた研究では、他人から指摘される形の撤回では著者の過去の論文の引用が減っていましたが、著者が自分から誤りを報告した撤回では、その減少は見られませんでした。
検索機能つきのAIなら、架空の文献は出ない？
減る可能性はありますが、出ないとは言い切れません。この記事で紹介した研究の多くは、ウェブ検索を使わない条件で調べたものです。検索機能つきのAIで架空の文献がどのくらい減るかは、今回調べた範囲では十分に確かめられていません。どちらの場合も、使う前に自分で開いて確かめます。
関連記事
AIに頼りすぎAIの答えが間違っていた。ハルシネーションはどのくらい起きる？割合は質問しだいで大きく変わり、出典を自分で開くのが確かめ方の基本
AIに頼りすぎAIに病気や薬のことを聞いても大丈夫？研究では、AI単体は正解できても、使った人の判断は良くならなかった
AIに頼りすぎAI翻訳を信じて送った文章が、誤訳だった。研究では、1文ずつは9割前後正しくても、文書全体では誤りが混ざりやすかった
出典
- Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5
- Linardon, J., Jarman, H. K., McClure, Z., Anderson, C., Liu, C., & Messer, M. (2025). Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study. JMIR Mental Health, 12, e80371. https://doi.org/10.2196/80371
- Seifi, A., & Seyfi, A. (2026). Hallucination Rate of Peer-Reviewed Citations Generated by Large Language Models in Neurocritical Care. Critical Care Explorations, 8(9), e1474. https://doi.org/10.1097/CCE.0000000000001474
- Chelli, M., Descamps, J., Lavoué, V., Trojani, C., Azar, M., Deckert, M., Raynier, J. L., Clowez, G., Boileau, P., & Ruetsch-Chelli, C. (2024). Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis. Journal of Medical Internet Research, 26, e53164. https://doi.org/10.2196/53164
- Lu, S. F., Jin, G. Z., Uzzi, B., & Jones, B. (2013). The Retraction Penalty: Evidence from the Web of Science. Scientific Reports, 3, 3146. https://doi.org/10.1038/srep03146