チャットのAI要約で、自分の発言が違う意味にまとめられて誤解された。研究ではGPT-4による会話の要約の約23%に元の会話と合わない部分があり、まず元の発言を示して直接話す

グループのチャットで、AIが作った要約を読んだ人から「そんなこと言ったの？」と聞かれた。自分は「検討中」と書いただけなのに、要約では「決めた」ことになっていた。そんなとき、言い訳に聞こえないか不安になるのは自然なことです。研究では、AIによる会話の要約は、言っていないことを「それらしく」足したり、誰が言ったかを取り違えたりすることがわかっています。直後にすることを整理します。

01 結論から言うとAIの要約で発言を誤解されたら、まず何をする？

AIの要約で発言を誤解されたら、まず自分の元の発言をそのまま引用して示し、誤解した相手と短く直接話します。AIの要約は会話と合わない内容を含むことがあるため、要約ではなく原文をもとに話すのが近道です。

チャットアプリや会議ツールには、長いやりとりをAIが短くまとめる機能が増えています。読む人は要約だけを見て、元のメッセージを開かないことも少なくありません。

要約の誤りは、書いた人のせいでも読んだ人のせいでもなく、仕組みとして起こりうるものです。だからこそ、どちらが悪いかを決めるより先に、元の発言という「共通の材料」を相手と一緒に見ることが大切です。

自分が要約を読む側で大事な点を見落としたときの対処は、AIの要約だけ読んで会議に出たら、抜けていた大事な点を指摘されたで整理しています。

02 研究とデータでわかっていることAIの会話の要約は、どんなふうに間違える？

研究では、AIの会話の要約は、会話の流れから推測した内容を事実のように書いたり、発言者を取り違えたりしやすいことがわかっています。GPT-4の要約の約23%に、元の会話と合わない部分がありました。

3つの研究に共通するのは、AIの要約は読みやすく整っている一方で、「考えている」を「決めた」に、「Aさんの話」を「Bさんの話」に変えてしまうことがある、という点です。文章が自然なぶん、読んだ人は誤りに気づきにくくなります。

03 まだわかっていないこと日本語のチャットの要約でも、同じくらい間違える？

まだわかっていません。ここで紹介した研究は英語の会話で、日本語のチャットアプリの要約機能が、どのくらい発言を取り違えるかを測った査読つきの研究は、今回の調査では見つかりませんでした。

04 今日からできること誤解を解くために、今日なにをすればいい？

誤解を解くには、元の発言を引用して示し、要約で変わった部分を一文で説明し、相手と直接短く話します。大事な決定は原文で確かめようとグループに提案すると、同じことが起きにくくなります。

会議のAI議事録に自分の発言が残っていたときの確かめ方はAIの議事録や文字起こしに、自分の発言が記録されていたで、AIの答えを根拠に家族やパートナーと気まずくなったときはパートナーや家族に「AIもあなたが悪いって」と言われたで整理しています。

05よくある質問

チャットのAI要約で、言っていないことを言ったことにされたらどうする？

まず元のメッセージを引用して示し、要約のどこが違うかを一文で伝えます。研究では、AIの会話の要約は、会話の流れから推測した内容を足したり、発言者を取り違えたりすることがありました。誤解した相手には、個別に短く連絡するほうが受け止めてもらいやすくなります。

AIの要約が間違えたのは、要約を読んだ人のせい？

誰か一人のせいとは言えません。英語の会話の研究では、GPT-4の要約の約23%に元の会話と合わない部分があり、要約の誤りは仕組みとして起こりうるものです。責め合うより、元の発言を一緒に確かめるほうが誤解は解けやすくなります。

AIの要約は、どんな発言を間違えやすい？

研究では、はっきり書かれていないことを会話の雰囲気から推測した部分、誰が言ったか、「考えている」と「した」の区別などが誤りやすい点でした。自分が書くときは、決定か案か、誰がするのかを一文ではっきり書いておくと、要約で変わりにくくなります。

関連記事

人間関係・孤独

AIの話し相手に、傷つく言葉や望まない性的なことを言われた。研究では利用者が共有した会話の約3割に有害な発言があり、まず画面を残して会話を止め、運営に報告する

人間関係・孤独

友だちや家族へのメッセージ、AIに書いてもらっていい？研究では、AIの文は温かく伝わる一方、AIを使ったと疑われると冷たく見られやすかった

人間関係・孤独

離れて暮らす親の家に、AIの見守りカメラを置きたい。研究では、子のほうが親より乗り気で、親の気持ちを読み違えやすかった。置く前に、場所・見る人・止め方を親と決める