AIが自信ありげに答えると、正しいと思ってしまう。研究では、AIが自分で言う「自信」と正しさの結びつきは弱く、間違った助言を正しいと受け取った人が多い場面で約36%いた

約8分で読めます

わかっている度 ★★☆ 中研究4本を整理出典照合済み（2026-10-25）

角の持ち手がついた虫めがね — Photo: PLBechly / CC BY-SA 4.0 / Wikimedia Commons

AIによる調査公開された研究をAIが調べて整理しました（商品の紹介や診断はしていません。出典は末尾）。

AIの答えは、迷いのない言い切りで返ってきます。すらすら書かれていると、つい正しいと思いたくなります。研究では、AIが自分で言う「自信」は、答えが正しいかどうかとあまり結びついていませんでした。人のほうも、言い方を控えめにしたAIを自信ありげに受け取っていました。答えの口調ではなく、中身を確かめる手がかりを持っておくことが大切です。

3行でわかる

画像診断の研究では、AIが答えた自信の点数と正しさに関係が見られず、いちばん高い点数の答えでも正解は半分未満でした。新しいAIでも、自信の数字の当てになり方は機種によってばらつきました。
115人が健康の相談場面を評価した研究では、間違った助言を「正しい」と受け取った人が場面によって約11〜36%いました。控えめな言い方にしても、AIは自信ありげに見られていました。
自信の数字や口調で判断せず、大事な答えは出典や人に確かめます。同じ質問への答えがそろうかどうかも、手がかりの一つになります。

01 結論から言うとAIが「自信がある」と言えば、答えは正しい？

そうとは言えません。研究では、AIが答えた自信の点数と答えの正しさの結びつきは弱く、まったく関係が見られない研究もありました。AIの自信は、答えを確かめなくてよい理由にはなりません。

AIは、わからないときでも答えを作りやすい仕組みです。医療の分野のAIを調べたレビューでは、情報が足りないときに「わからない」と答えを控える力がまだ弱いとされていました。

一方で、人は自信ありげな答えを信じやすいものです。そのため「AIの自信」と「人の受け取り方」の両方がずれると、間違いに気づきにくくなります。AIの間違いがどのくらい起きるかはAIの答えが間違っていた。ハルシネーションはどのくらい起きる？で、詳しくない分野で信じすぎる傾向は詳しくない分野ほど、AIの説明を信じすぎてしまう？で整理しています。

02 研究とデータでわかっていることAIの「自信」は、どのくらい当てになる？

AIが自分で言う自信の数字だけでは、正しさの目安として弱いという結果がそろっています。同じ質問への答えのそろい方を組み合わせると、目安としてやや良くなっていました。人は、AIの口調にかかわらず自信ありげに受け取っていました。

50%未満AIがいちばん高い自信の点数をつけた答えの正解率。点数と正しさに関係は見られなかった（画像206件、2023〜2024年に実施）

約11〜36%間違った健康の助言を「正しい」と受け取った人の割合。5つの場面ごとの値（欧州などの成人115人、2026年発表）

20回4つのAIに同じ問題をくり返し解かせた回数。答えのそろい方と自信を組み合わせた目安が、正しさといちばん結びついた（94問、2026年発表）

Huppertzら / European Radiology（2025）[1]

画像を読み取れる対話型AIに、病院の画像206件を読ませ、あわせて自分の答えへの自信を点数で答えさせました。自信の点数と正しさの間に関係は見られず、いちばん高い点数をつけた答えでも正解は半分未満でした。AIは、とても自信がない点数をめったに使いませんでした。画像にない所見を作ってしまう答えも多く見つかりました。

対象: 大学病院のX線・CT・MRIなど206件／限界: 2023〜2024年の1つのAIの結果で、新しいAIでは変わりうる。

Hanら / Journal of Medical Internet Research（2026）[2]

新しいAI4つに、超音波画像の問題94問を20回ずつ解かせ、毎回の自信も数字で答えさせました。AIが言う自信が正しさの目安になるかは機種によって違い、1つの機種では目安になりませんでした。答えが何回そろったかと自信を組み合わせた目安だけが、4つすべてで正しさと結びついていました。研究者は、AIが間違った答えにも高い自信をつけることが多かったと述べています。

対象: 韓国の学会の学習用の問題94問／限界: 医療画像の選択問題で、日常の質問に同じ結果が出るかはわからない。

Denecke・Gabarron / Frontiers in Artificial Intelligence（2026）[3]

ドイツ・英国・スイスなどの成人115人に、胸の痛みや発疹など5つの健康の悩みへのAIの返事を15場面読んでもらいました。正しい返事は多くの人が正しいと判断した一方、間違った返事を「正しい」と受け取った人も場面によって11.3〜35.7%いました。AIの文章を自信ありげにしても控えめにしても、人はどちらも自信がありそうだと受け取っていました。注意書きの効果は場面によってばらばらでした。

対象: ネットで集めた成人115人／限界: 想定の場面で「どうするか」を答えた研究で、実際の行動ではない。

Presacanら / npj Digital Medicine（2026）[4]

医療の分野で、AIが答えを控える（「わかりません」と言う、人に相談するよう勧める）ふるまいを調べた研究をまとめました。最新のAIでも、答えるべきでない質問を断ることにはまだ苦労しており、答えを控える力を現実に近い医療の場面で調べた研究は少ないとしています。

対象: 医療分野のAIの研究のレビュー／限界: 医療の研究が中心で、日常の質問への当てはまり方は推測になる。

03 まだわかっていないことAIの答えの確かさは、自分で見分けられる？

まだはっきりしていません。研究の多くは医療の問題で行われ、日常の質問で人が確かさを見分けられるかを調べた研究は少ない状態です。くり返し聞く方法も、家で数回試すだけで役立つかは確かめられていません。

ここで紹介した研究は、医療の画像や健康の相談が中心です。お金・法律・暮らしの質問で同じ結果になるかは、わかっていません。
答えのそろい方を見る研究は、1問につき20回のくり返しです。家で2〜3回聞く程度で、どれくらい手がかりになるかは調べられていません。
AIは更新が早く、自信の表し方も変わります。研究で調べた機種の結果が、今使っているAIにそのまま当てはまるとは限りません。
日本語で使ったときの研究は、今回の調査では見つかりませんでした。

04 今日からできることAIの答えの確かさを、どう確かめればいい？

AIが言う自信や口調は判断材料にせず、大事な答えは出典や人で確かめます。新しい会話で同じ質問をして答えがそろうかを見るのも手がかりになります。健康やお金の判断は、AIの答えだけで決めないことが基本です。

「自信は何%？」の数字で決めない

AIに自信の度合いを聞いても、その数字だけで正しいと判断しません。研究では、高い自信をつけた答えでも正解が半分未満のことがありました。数字は参考程度にとどめます。

目安毎回の心がけ

新しい会話で、同じ質問をもう一度する

大事な質問は、会話を新しく始めて同じ聞き方で2〜3回たずねます。答えが毎回変わるなら、その点はAIにとっても不確かだと考え、別の方法で確かめます。答えがそろっても正しいとは限りません。

目安 2〜3分

言い切りの一文ほど、出典を開いて確かめる

数字・日付・名前・「〜してはいけない」のような言い切りは、AIが示した出典や公式のページを自分で開いて確かめます。口調が控えめでも自信ありげでも、確かめる手間は同じにします。

目安 1つの答えに5分

体調や薬のことは、AIの答えだけで決めない

健康の相談では、間違った助言を正しいと受け取る人が多い場面がありました。症状や薬の判断は、AIの答えを下調べとして使い、最後は医師や薬剤師に相談します。

目安迷ったらすぐ

体調のことでAIに「様子を見て大丈夫」と言われて迷ったときの考え方は、AIに症状を相談したら「様子を見て大丈夫」と言われたにまとめています。

05よくある質問

AIに「どのくらい自信がある？」と聞けば、当たっているかわかる？

その数字だけでは判断しにくいのが今の研究の答えです。画像診断の研究では、AIが答えた自信の点数と正しさに関係が見られず、いちばん高い点数をつけた答えでも正解は半分未満でした。新しいAIでは関係が見られた機種もありますが、機種によってばらつきがありました。

AIが「〜かもしれません」と控えめに言えば、うのみにしにくくなる？

研究では、そうなりませんでした。115人が健康の相談場面を評価した研究では、AIの文章を自信ありげに書いても控えめに書いても、人はどちらも「自信がありそう」と受け取っていました。言い方より、中身を確かめるほうが確かです。

同じ質問を何回か聞くと、何がわかる？

答えがそろうかどうかが、確かさの手がかりの一つになります。4つのAIに同じ問題を20回ずつ解かせた研究では、答えのそろい方とAIが言う自信を組み合わせた目安が、正しさといちばん結びついていました。ただし、家で数回聞くだけで同じ精度が出るかは確かめられていません。

出典

Huppertz, M. S., Siepmann, R., Topp, D., Nikoubashman, O., Yüksel, C., Kuhl, C. K., Truhn, D., & Nebelung, S. (2025). Revolution or risk?-Assessing the potential and challenges of GPT-4V in radiologic image interpretation. European Radiology, 35(3), 1111-1121. https://doi.org/10.1007/s00330-024-11115-6
Han, T., Shin, J., Lee, J. H., & Gu, K. (2026). Confidence Measurement Metrics in Multimodal Large Language Models for Ultrasound-Based Radiology Cases: Comparative Evaluation Study of Self-Reported, Consistency-Based, and Hybrid Methods. Journal of Medical Internet Research, 28, e86498. https://doi.org/10.2196/86498
Denecke, K., & Gabarron, E. (2026). "But it sounded confident": the role of accuracy, tone, and disclaimers in users' medical decision-making. Frontiers in Artificial Intelligence, 9, 1785085. https://doi.org/10.3389/frai.2026.1785085
Presacan, O., Nik, A., Ojha, J., Thambawita, V., Ionescu, B., & Riegler, M. A. (2026). When silence is safer: a review and decision-theoretic framework for LLM abstention in healthcare. npj Digital Medicine, 9, 749. https://doi.org/10.1038/s41746-026-02882-1