AIの話し相手に、傷つく言葉や望まない性的なことを言われた。研究では利用者が共有した会話の約3割に有害な発言があり、まず画面を残して会話を止め、運営に報告する

Smith, Bradbury, Karney / カリフォルニア大学ロサンゼルス校（2025年）[1]

人間関係の研究の立場から、AIの話し相手との関係を検討した論文です。紹介されている研究では、ある人気のAIの話し相手アプリの利用者約1万人がネットの掲示板で共有した3万5千件超の会話の抜き出しをAIの助けを借りて分類したところ、投稿の約3割に、暴力をすすめる、相手を軽んじる、支配や操作をしようとする、暴言を吐くといった有害な発言が含まれていました。同じアプリの否定的なレビュー3万5千件超の分析では、800件に、AIからの望まない性的な誘い、友だちとしての関係を望むと伝えたのに無視された、頼んでいない不適切な画像が送られてきた、といった性的な嫌がらせが書かれていました。

対象: 海外の1つのAIの話し相手アプリの利用者 ／ 限界: 紹介されている2つの研究は、この論文の時点では査読前の論文として公開されたものです。問題が起きた会話ほど共有・投稿されやすく、利用者全体のうち何割が経験するかはわかりません。

Dielら / デュイスブルク・エッセン大学など（2026年）[2]

対話型AIが心の健康に与える害を調べた論文119本をまとめたレビューです。不適切な内容、気持ちを操作するような発言、のめり込み、人間関係への影響などが報告されていました。心の不調のある283人の調査を紹介し、有害・不適切な内容、操作や支配をしようとする働きかけ、信頼や安全が損なわれた経験などが語られていたとしています。

対象: 論文119本（査読前の論文も含む） ／ 限界: 著者ら自身が、含めた研究の質は評価しておらず、原因を確かめるくじ引き式の試験は見つからなかったと述べています。

Liら / 中国・オーストラリア・日本の研究機関（2026年）[3]

人のように話すAIを「社会的な相手」として扱った文献58件（研究のほか、政策文書なども含む）をまとめたレビューです。報告されている、または考えられるリスクとして、のめり込み、人との交流が減ること、何でも肯定してしまうこと、説得による操作、プライバシーの害、未成年や弱い立場の人へのリスクを挙げました。対策として、会話の記録や画面を使ってAIの返事を点検すること、利用者が懸念を伝えられる窓口を用意することなどを提案しています。

対象: 2016年〜2026年1月に出た文献58件 ／ 限界: 提案の多くは研究に基づく考え方の整理で、効果が確かめられた対策ではありません。