自分で描いた絵を「AIだ」と疑われた。研究では見た目の判定は人もツールも誤りが多く、答える材料は制作途中の記録

約9分で読めます

わかっている度 ★★☆ 中研究3本・公的資料7件を整理

鉛筆で描いた静物のデッサン — Photo: Teo Jin Cheng / CC0 / Wikimedia Commons

AIによる調査公開された研究と公的機関の資料をAIが調べて整理しました（法律の判断や商品の紹介はしていません。出典は末尾）。

時間をかけて描いた絵に「これAIでしょ」とコメントがついた。コンテストで「AI使用の疑い」と言われた。突然のことで、頭が真っ白になる人は少なくありません。結論から言うと、絵を見ただけの判定は、人も判定ツールも誤りが多いことが研究でわかっています。疑いに答える材料になるのは、見た目の判定ではなく、制作途中の記録です。

3行でわかる

人の絵とAI画像を見分ける実験では、一般の人は人が描いた絵の約4割を「AI」と判定し、AIを見抜くのに慣れた描き手でも約2割を誤りました。判定ツールにも、人の絵の約3分の2を「AI」と判定したものがありました。
疑いに答える材料は、レイヤーの残った元ファイル、下描き、途中の保存、制作の録画です。どれも1つで決め手にはなりにくいので、組み合わせて、見せる相手と範囲を選びます。
疑いが中傷や嫌がらせに広がったら、記録を残してサービスに報告し、違法・有害情報相談センターや法務局の人権相談に相談できます。

01 結論から言うと「AIで描いた」と疑われたら、まず何をする？

すぐに言い返さず、疑いの投稿や連絡を保存してから、制作途中の記録を集めます。見た目の判定は人もツールも誤りが多いので、「見ればわかる」という言い分に、見た目で反論する必要はありません。

疑われた直後は、感情的なやりとりになりやすい時期です。最初の1時間でやることは3つにしぼれます。

疑いの投稿・コメント・連絡を、URLと日時がわかる形で保存する
手元にある元ファイル、下描き、途中の保存データを消さずに集める
返信するかどうかは、集めたものを見てから決める

文章でも同じことが起きています。学校のレポートで「AIが書いた」と判定されたときの対処は、自分で書いたのに、AI判定ツールで「AIが書いた」と言われたにまとめています。

02 研究とデータでわかっていること人の目や判定ツールで、AIの絵は見分けられる？

確実には見分けられません。人の絵とAI画像を比べた研究では、一般の人は人の絵の約4割をAIと誤り、判定ツールの中にも人の絵の多くをAIと判定するものがありました。

約4割一般の人が、人の描いた絵を「AI」と判定した割合（米国の大学の研究、2024年発表）

約2割AIを見抜くのに慣れた描き手13人でも、人の絵を「AI」と判定した割合（同）

67%ある判定ツールが、人の描いた絵を「AI」と判定した割合（同）

53%本物そっくりのAI画像を人が見分けた正答率。18の結果をまとめた分析（2024年発表）

Haら（2024, ACM CCS）[1]

人が描いた絵280点とAI画像350点を、人と判定ツールに見分けさせました。人の絵を「AI」と誤った割合は、一般の人で40.81%、プロの描き手で23.53%、AIを見抜くのに慣れた描き手で20.78%でした。判定ツールの中には、人の絵の67.40%を「AI」と判定したものもありました。

対象: 7つの画風の人の絵と5種類の画像生成AIの絵。一般の人177人、プロの描き手3,803人、慣れた描き手13人／限界: 研究時点のツールと生成AIでの結果です。最も成績のよかったツールは人の絵を誤りませんでしたが、AI画像に特殊な加工を加えると見逃しが約3割に増えました。

Dielら（2024, Computers in Human Behavior Reports）[2]

本物そっくりに作られたAIの画像・音声・動画・文章を、人がどれだけ見分けられるかを調べた56本の論文をまとめました。画像の正答率は53.16%で、当てずっぽう（50%）と統計的に区別できませんでした。

対象: 56本の論文、延べ86,155人／限界: 本物に見せかけて作られたディープフェイクが対象で、イラストや絵画を調べたものではありません。

KawakamiとVenkatagiri（2024, Creativity & Cognition）[3]

生成AIが描き手に与える影響を、SNSの投稿から分析しました。描き手への世間の不信が強まり、「AIを使ったのでは」という疑いが、ストレスや仕事を失う不安につながっていると報告しています。

対象: 描き手に関するSNSの投稿／限界: 4ページの短い論文で、疑われた人の数や影響の大きさは測っていません。

疑いに答える材料と、その限界を並べると次のとおりです。どれも「人が描いた」と言い切れる決め手ではないため、複数を組み合わせて示します。

材料	示せること	限界
レイヤーの残った元ファイル	線画・塗り・影などを重ねた描き方の跡	見せ方によっては、元データの転載や流用の心配がある
ラフ・下描き・途中の保存	構図を考えて直した流れ	途中を残していない作品には使えない
制作の録画（タイムラプス）	描いている過程そのもの	録画していた作品に限られる。早送りの一部だけでは疑う人もいる
ファイルの作成日時などの情報	いつ作り始めたかの目安	保存や書き出しのしかたで変わることがあり、それだけでは誰が描いたかを示せない

03 まだわかっていないこと制作過程を見せれば、疑いは晴れる？

どの見せ方が疑いを晴らしやすいかを確かめた研究は、今回の調査では見つかりませんでした。判定ツールの精度も、ツールや生成AIの更新で変わるため、研究の数字は当時の目安です。

AIの使用を疑われた描き手がどのくらいいるか、どんな影響が出たかを数で示した研究は、今回の調査では見つかりませんでした。
人の目の見分けをまとめた分析[2]は、本物に見せかけて作られたディープフェイクが対象です。イラストや絵画での見分けを調べた研究は、まだ少数です。
判定ツールの結果[1]は、研究時点のツールと生成AIでのものです。今の判定ツールが人の絵をどのくらい誤るかは、この研究からはわかりません。

04 今日からできること疑いには、どう落ち着いて答えればいい？

記録を保存し、制作途中の材料を見せる相手と範囲を選んで示します。コンテストは主催者の手続きに沿って答え、中傷に広がったら報告と相談に切り替えます。

疑いの投稿や連絡を、日時つきで保存する

画面の保存に加えて、投稿のURLと日時を控えます。あとでサービスへの報告や相談をするときの材料になります。

目安 10分

制作途中の材料を集め、見せる範囲を決める

ラフ、途中の保存、レイヤーの一覧、録画があれば集めます。公開で見せるなら縮小した画像や一部の切り出しにとどめ、元ファイルそのものは、主催者など必要な相手にだけ渡します。

目安 30分

返信は一度だけ、事実を短く書く

「手描きです。制作途中の画像を載せます」のように、事実と材料だけを書きます。相手を言い負かそうと何度もやりとりすると、話題が広がりやすくなります。

目安返信1回

コンテストなら、主催者の手続きに沿って答える

応募規約のAIに関する決まりを読み直し、主催者に制作途中の材料を出せると伝えます。失格などの判断に納得できないときも、まず主催者の問い合わせ窓口に、材料を添えて理由を尋ねます。

目安規約の確認15分

中傷に広がったら、サービスに報告して相談する

ブロックやミュートで距離を取り、権利を侵害していると考える投稿は、サービスの窓口から削除を申し出ます。国が指定した大規模なサービスは、法律で、申し出から原則7日以内に削除するかどうかを申出者に知らせることになっています。

目安申し出1件10分

これから描く作品は、ラフと途中の保存を残しておくと、次に疑われたときの材料になります。作品を守りながら発表を続ける方法はAIに作品をまねされて、発表を続けるのが怖い、AIを使った作品の表示のルールはAIで作った画像を「自分の作品」として投稿してもいい？にまとめています。疑われて描くのがつらくなったときは、姉妹メディアのAIの絵と比べて、自分の絵に自信がなくなるもどうぞ。

困ったときの相談先
違法・有害情報相談センター（総務省の委託事業、Webフォーム・無料）: ネットの中傷について、削除の申し出方などの助言を受けたいとき。
みんなの人権110番（法務省、0570-003-110、平日8時30分〜17時15分）・インターネット人権相談: 法務局が削除依頼の方法を助言し、人権侵害と認めた投稿は法務局からサービスに削除を要請します。
法テラス・サポートダイヤル（0570-078374）: 法律の相談先がわからないとき。

05よくある質問

AI判定ツールで「人間が描いた」と出た結果は、証拠になる？

参考にはなっても、決め手にはなりにくいです。研究では、判定ツールによって人の絵を「AI」と判定する割合が大きく違い、AI画像に加工を加えると見逃しが増えたツールもありました。制作途中の記録と組み合わせて示すほうが、伝わりやすくなります。

疑いを晴らすために、元ファイルを全部公開したほうがいい？

全部を公開する必要はありません。公開で見せるなら、縮小した途中の画像やレイヤーの一覧など一部にとどめ、元ファイルそのものは、コンテストの主催者など確認が必要な相手にだけ渡す方法があります。

コンテストでAI使用を疑われて失格になった。どうすればいい？

まず応募規約のAIに関する決まりを読み直し、主催者の問い合わせ窓口に、制作途中の材料を添えて判断の理由を尋ねます。判断を変えるかどうかは主催者が決めることで、法的な対応が必要かどうかの判断は、法テラスなどの相談先で確かめられます。

「AIだ」と言いふらす投稿を消してもらうことはできる？

サービスの削除の申し出窓口から申し出られます。国が指定した大規模なサービスは、法律で、申し出から原則7日以内に、削除したかどうかを申出者に知らせることになっています。申し出方に迷うときは、違法・有害情報相談センターや法務局の人権相談で助言を受けられます。

つらい状態が2週間以上続くときや、日常生活に支障があるときは、医療機関や、こころの健康相談統一ダイヤル（0570-064-556）などの相談窓口に相談できます。

出典

Ha AYJ, Passananti J, Bhaskar R, Shan S, Southen R, Zheng H, Zhao BY (2024). Organic or Diffused: Can We Distinguish Human Art from AI-generated Images? Proceedings of the 2024 ACM SIGSAC Conference on Computer and Communications Security (CCS '24). https://doi.org/10.1145/3658644.3670306
Diel A, Lalgi T, Schröter IC, MacDorman KF, Teufel M, Bäuerle A (2024). Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers. Computers in Human Behavior Reports, 16, 100538. https://doi.org/10.1016/j.chbr.2024.100538
Kawakami R, Venkatagiri S (2024). The Impact of Generative AI on Artists. Proceedings of the 16th Conference on Creativity & Cognition, 79–82. https://doi.org/10.1145/3635636.3664263
特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律（平成13年法律第137号）第22条〜第25条. e-Gov法令検索. https://laws.e-gov.go.jp/law/413AC0000000137
特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律施行規則（令和4年総務省令第39号）第16条. e-Gov法令検索. https://laws.e-gov.go.jp/law/504M60000008039
総務省. インターネット上の誹謗中傷・名誉毀損・プライバシー侵害等への対応（情報流通プラットフォーム対処法）. https://www.soumu.go.jp/main_sosiki/joho_tsusin/d_syohi/ihoyugai.html
違法・有害情報相談センター（総務省委託事業）. https://ihaho.jp/
法務省. インターネット上の人権侵害をなくしましょう. https://www.moj.go.jp/JINKEN/jinken88.html
法務省. 常設人権相談所（みんなの人権110番）. https://www.moj.go.jp/JINKEN/jinken20.html
日本司法支援センター（法テラス）. 法テラス・サポートダイヤル. https://www.houterasu.or.jp/