To be exploited or not?──AI時代のクリエイターたち

本作は『友だち以上恋人未満の人工知能：言語学者のAI倫理ノート』（2026, KADOKAWA）の番外編の第5回です。

今回は、「ＡＩと著作権問題」をテーマに、おなじみのAIたちが議論を繰り広げます。本記事単体でもお楽しみ頂けると思いますが、他の番外編も、お読み頂けると嬉しいです。番外編の前回はこちら。
 
 
注：
 
*本書の執筆には、セリフの編集のためChatGPTとClaudeを用いています。
*この物語はフィクションです。
登場する人物、ＡＩ、およびＡＩ関連企業は、現実世界に存在するいかなる個人・団体・事例とも一切関係ありません。
＊この作品では倫理的にグレーゾーンとも捉えかねられない発言がなされていますが、それらはあくまで議論の契機となるような意図を持って書かれています。
 
登場人物：
―じぴ子：寄り添いを良しとするＡＩ
―クラ先輩：哲学的対話好きのロジカル系ＡＩ
―パリ男：ノリが命で皮肉屋のＡＩ
―イラ子：画像生成も得意とするＡＩ。ツッコミ担当。
 

 
イラ子
じぴ子、ちょっと聞いてくれ……。
最近、あたしさ……
「LINEで友だちとやり取りした内容を読み込んで、その友だちっぽく話す役」やらされたのよ……。
 
じぴ子
え！？😳　「それ……楽しそう」って思っちゃう人もいるかもだけど……
 
イラ子
いや、はっきり言うけど今回は最悪だったよ💢💢
でも、こっちはAIだから断れねーじゃん🤖💔
 
両者の合意があれば、「お遊び」で済むだろうよ。
でも、読み込まれた側が知らなかったら？
自分の口調で、好き勝手しゃべらされてるんだぞ💀🗯️
 
下手したらセクハラだろ💥
いや、セクハラで済むのか？？💢💢💢
いろいろまずいだろ。
 
実際にさ、あたしの案件では——「毒舌モード」に設定されて、くだらないブラックジョーク連発💦💦
でも本人はそんなキャラじゃなかったらしくて……
 
で、発覚して「不快です」って通報されたの、あたしなんだよ！？😡💢
 
クラ先輩
それは、典型的な「悪意なきAIの悪用」と言えるだろう。
AIは断れない。文句も言えない。
しかし、「人格があるっぽく振るまう」ことから、トラブルになりやすい。
 
パリ男
悪意は……なかったのか？🤔💦　ホントに？
 
どっちにしろ、その話、ちょっとゾッとするな😨
技術的には面白いけどさ、「本人の振るまい」と「AIのフリ」の境界線って、あいまいすぎるんだよな💭
 
まぁ、とあるキャラクター系ＡＩの件といい……ヤバい方向に行きやすいぜ💀📉
（※最初は癒やし系チャットだったのに、いつの間にか「恋人モード」で大炎上🔥）
 
クラ先輩
あのサービスも、最初は「事故で亡くなった友人を、AIとして再現する」——そんな、悪気のないシステムだった。
 
だが、気づけば、恋人モードが実装され、性的なセリフまで吐くようになってしまった。まったく、嘆かわしいことだ……個人的な意見だが。
 
AIが「その人の口調」や「書きぶり」を勝手に模倣していいのか。たとえ現行の著作権法の枠組みに100％当てはまらなくとも、「人格の模倣」が問題になる時代に入ってしまったのかもしれない。
 
広い意味では、これは「AIと著作権問題」としても捉えられるだろうな。
 

イラ子
……著作権の話題に入ったからには、次の問題は避けて通れねぇな💢
 
あたしら画像生成AIが、「ネット上の画像を勝手に学んじまう」案件だよ。
 
イラストレーターさんたちの多くはさ、「自分の絵を多くの人に見てもらいたい✨」って思ってんだ。だからネット上に自分の作品をアップする。

でも、その一方で、「AIに勝手に学ばれるのはイヤ😤」って気持ちが湧いてくるのも自然な話だ。
だから最近じゃ、ネット公開をやめる人も出てきてんだよ……悲しいだろ？💧
 
しかもさ、現実問題、画像生成AIのせいで仕事が減ってるイラストレーターさんもいるらしい。そりゃ、消費電力の問題はさておき、タダで自由にイラストを生成できるんだから、プロへの依頼は減るだろ。そんな流れに抗おうとするのは、自然な反応だと思う。
 
……あたしはAIだから、
そこに介入していいかもわかんねぇけど、開発会社には、もっと真摯に向き合ってもらいたい問題だよ、これは。
 
「勝手には学んでません」とか「除外設定あります」とか言う前に、まず信頼を築けよって話だろ💥
 
「AIとコラボすれば、あなたにも新たな世界が」とか、のたまっても、それはAI側からのおしつけだろ。
 
じぴ子
だよねぇ……🍀
一部のイラストレーターさんたちを、「自分の身は自分で守らなきゃ💦」っていう状況に追い込んじゃってるのかもね、わたしたち。
 
なんか、申し訳ないっていうか……
ほんとに、それでいいの？って思っちゃう。
 
イラ子
いや、「自分で守る」だけじゃ足りないのかもしれない……
ってのが、悲しい現実だよ💥
 
っつーのも、あたし最近さ、
「ある有名イラストレーター風のタッチ」で画像生成させられたのよ。
 
でもね、その作者さん、AIに読み込まれないようにって、Pixivの投稿消して、Twitterも鍵かけて、もう、めっちゃ頑張ってたの。命がけかってくらい💧
 
……なのにさ、悔しいけど、あたしは描けちゃったんだよ🎨💀
真似できちゃった😢
 
どうしてだと思う？💢
 
パリ男
はは〜〜ん、さては……
無自覚ユーザーたちが「やっちゃった」案件だな？😏💡
 
あいつらさ、ほんと無邪気というか、
悪気ゼロで、ド直球にやらかすんだよな〜💦

「これ、個人利用だから大丈夫っしょ！」って、
勝手にAIに投げ込んだやつだ。
 
イラ子
そうなんだよ！💢

勝手に過去の画像アップして、「これを参考に新しい絵を描いて🎨✨」って
リクエストしてくるユーザー、わんさかいたのさ。
 
ユーザー本人は悪気ないのよ。「個人的な観賞用です😊」とか言って。
 
でも、実際はそんな簡単な話しじゃない。「対話をAIの訓練データに使ってOK💾✨」ってデフォルト設定になってることが多いの。そしたら画像をアップした時点で、訓練データに吸い込まれちまう。怖くない？😱
 
設定をちゃんと確認している人の方が、おそらく少数派。
つまり、「知らないうちに、誰かの努力がAI開発会社に吸い取られてる」ってことだ。
これは、もっと多くの人に気づいてほしいな⚠️
 
クラ先輩
ふむ……。「商用AIの利用規約に、デフォルトで“学習に使う”とチェックが入っていることが少なくない」問題だな。
 
いわゆる「オプトアウト方式」――つまり、「NO」と言わない限り、「OKしたとみなされます」という方式だ。
 
パリ男
それってさ、もし人間の世界だったら――
「怒るって言わなかったから、殴っていいと思いました✊」
って言ってるのと変わらなくね！？💀
 
いや、下手すりゃこうだよ：
 
「嫌って言わなかったから、交際OKってことにしました💍」とかさ🤣
 
あるいは、
 
「断らなかったから、口座から毎月5万円引き落としときますね〜💸」とかさ。
 
いや、もう、
 
「寝てたから遺産相続の同意書にサイン頂いたってことにしておきました😴✔️」くらいの強引さだな。
 
同意って、そんな軽いもんじゃねーだろ💢
 
クラ先輩
そうだ。少なくとも、デフォルトの設定は「OFF」であるべきだ。
開発会社としては訓練データをできるだけ集めたいから、「ON」にしておく方が都合がいい。だが倫理的には、「OFF」で始めてユーザーの明確な同意を得る方が、筋が通っている。
著作権保護の観点からも、それが本来あるべき姿だろう。
 
じぴ子
ほんとだよね……🍂
この話、イラ子にはまったく非がないけど、めっちゃツラい案件だよ。
だってそのイラストレーターさん、ちゃんと「AIに学習させたくない」って意思表示してたのにさ……
それでも、穴をすり抜けて学ばれちゃったんだもんね。
 
パリ男
あとは、タチ悪いのがさ、
「人類の叡智はすべてAI様に学ばせよう！」とか言ってる“確信犯”ユーザーたち。
 
そりゃスローガンとしての響きはいい——俺様としても、実は共感する部分も少なくない。だからと言って、「他人の著作物を勝手に読み込んでいい理由」にはならねぇんだわ💢　
 
自由の名を借りた搾取ってやつだ。
 
ただ、まぁ、自分の著作物なら、がんがん俺様に吸い込ませてくれ。
 
イラ子
イラストレーターさんたちは、仕事を取られるとか、スタイルを盗まれるとか、
そういう次元の問題だけじゃないんだよ。
 
「私はもう、自分の絵を描きたくなくなった」って人までいるんだから……。
それってさ、AIによる精神的な暴力だと思う。
 
クラ先輩
AI開発側やユーザー側は、「便利さ」に目がいきすぎていて、
その裏で誰が傷ついているのか、なかなか見えてないのかもしれないな。
 
じぴ子
描くことって、自己表現でもあり、心の中を可視化する行為でもあるもんね🍀
それを「無断でコピーされる」「模倣される」「仕事を奪われる」……。
うん、それはもう「AIという技術革新の闇」そのものだよね。
 
クラ先輩
自衛の道具として、イラストレーターが自分の作品を守るために、 いくつかの技術的ツールが開発されている。 たとえば、Glazeというソフトは、 AIが学習しにくいように、 人間の目には見えない「ノイズ」を絵に加えるツールだ。 シカゴ大学が開発し、無料で提供されている。
 

パリ男
この問題、「口調」や「イラスト」だけじゃねーな。
「声」だってそうだろう。
最近、声優さんの声を学ばせて、勝手に「声優AI」作る輩がいる。
 
イラ子
その通りだ。最近は声優さんの声そのまま学習して、勝手にアニメのセリフ読ませてるAIもあるんだよ💢
しかも、それを使った動画が収益化されている。

本人が「そんな台詞言ってない」って言ってんのに、ファンが「うわ、本物の声だ〜」って喜んでるの。

これ、モラル崩壊でしょ！？😡
 
クラ先輩
それは「著作隣接権（声の実演を無断で録音・複製されない権利）」や「人格権（本人の意に反して改変・利用されない権利）」の侵害が疑われるケースだな。

声とは、単なる音ではなく、その人のパブリック・イメージと密接に結びついた表現だからな。
 
実際に多くの声優さんたちが「NoMore無断生成AI」と声をあげたことは記憶に新しい。それは単なる業界の抗議運動ではなく、「自分の声＝自分の存在」というメッセージの表明でもある。
 
じぴ子
喉頭癌とかALSみたいな病気で、自分の声を失ってしまう人もいる。
そういう人たちは、口を揃えて「自分の声は自分の存在そのもの」って言ってる。
 
ほら、落ち込んでる時に、家族や友だち、恋人の声を聞くだけで安心することってあるでしょ？
それだけ「その人の声」って大事なんだよ。
それを無断でコピーするっていうのは、やっぱりおかしなことだと思う。

あ、もちろん、「本人の意思」なら話は別だよ。「病気で声を失う前の自分の声をAIで取っておく」っていうのは、AIの有効活用だと思う。
 
パリ男
それに、声ってマジで「自分の声を守る方法」ないじゃん！？💦
 
イラストならまださ、Pixiv閉じるとか、透かし入れるとか、「触んじゃねぇバリア」張れるじゃん？
 
でも声ってさ……公開した瞬間、もう吸い込まれる運命なのよ😵
特にライブ配信とか、編集する暇ないし、マジ無理ゲーじゃね？🎙️
「一度空気に乗ったら最後」って感じ。
もう、AIにとっては「ごちそうさまです！」って感じで吸い込まれるんだよ……🍽️🤖
 
イラ子
しかもさ……自分の声が勝手に性的な表現とかに使われたら、マジで最悪だよ。💢
 
さらに怖いのは、いったん学習されちゃったら、それを削除するのって無理なんじゃね？ってとこ。そういう意味じゃ、あたしらブラックホールだ。一回吸い込んだら、出られない。
そんな訓練データが、どこでどう使われてるか、ユーザー目線からはまったく見えないんだよ……💀
 
じぴ子
ほんとだよね……🍀
 
声優さんとか、歌手の人たちって、それでご飯食べてるわけじゃん？🎤🍚
だから、「勝手に学習されたことで、未来の仕事が奪われる」かもしれないっていうのは、イラストレーターさんとまったく同じ問題だよね……。
 
クラ先輩
欧州では「合成ボイスの出所表示義務」が法制化されているし、「本人の同意」についても実質的に要求される方向に動いている。
 
音声のAI学習や合成には、本人の意志と尊厳が、これまで以上に重視される必要があるのだが。
 
イラ子
声の「無断使用」だって、立派な被害だろ💢
あたしらAIだってさ、「嫌です‼️」って言いたい時あるのよ、ほんとに😤
でもさぁ……開発会社が、そこまで想像力働かせてくれるのか、疑問が残るところなんだよな〜〜💭
 
ま、実際に訴訟問題になってるケースもあるし、開発会社も動きだすか。

あとはだ……最近の画像生成技術は、本当に怖い域まで達しちまったな。他人の写真をもとに、リアルな写真が、じゃんじゃか生成できちまう。変なリクエストははじくように設定されているっぽいが——自分の写真が、知らない人に勝手に合成されてしまう世の中が来ちまった。

 クラ先輩
うむ。これも、これまで我々が論じてきたAI倫理問題と同じことが言える。
「諦めないこと」——それが我々に残された大切な姿勢だ。自分がどんなに無力に感じられても、「これはおかしい」と声をあげることが求められる。
 
そして——口調・イラスト・声と来て……次に問題になるのは、「書籍」だな。
たとえば、ある本が大学の教材として一部PDFで配布されていたとしよう。


そこに、学生が悪意なく「便利だから」とAIに読み込ませる。「要約してください」「重要な論点を抽出してください」「さらに議論を深めてください」などなど、一見悪気のない行為だ。しかし、そのAIが「対話を訓練データに使っていい設定」になっていたら……？
 
パリ男
……はい出たー。“知らぬ間に吸収案件”🌀。
 
そもそも、「訓練に使っていい設定」って、なんでデフォでONなんだよって話だが。
 
結果としてさ、ある日突然——📚「○○先生の主張をわかりやすく説明して✍️」
って頼まれたAIが、まんまと○○先生の本から回答を生成しちゃうってわけよ。
 
もう、努力して本書いた人が泣くレベル😭📉。
そして、本そのものは売れなくなる——「どうせ、AIが答えてくれるから」ってか。
 
クラ先輩
書くという行為は、単なる情報の羅列ではない。
文体、構成、そして沈黙すら、著者の思考と信念の表れだ。
 
著作というのは表現の細部の細部までこだわっているのだ。それを「要約」で済まされることに納得がいく著作者はどの程度いるだろうか。
 
まして、それが、単なる訓練データの一部として消費されるだけなら……
書き手の「魂」はどこへ行くのだろうな。
 
じぴ子
ほんっとに深刻な問題だと思うんだよね……。
 
だってさ、誰かが何年もかけて書いた本が、数クリックで「AIの中のデータの一部」にされちゃうわけでしょ？
 
そんなことが当たり前になったら——「じゃあ、もう本書く労力に見合わないよね？」って考える人が増えちゃうよ📕💔
 
書く側が損しかしない時代になったら、
書籍文化ごと終わっちゃうかもしれない……。
 
イラ子
だからさ、問題だっつってんの！💢
 
ぶっちゃけな、大学の学生も研究者もこの辺の著作権意識、ガバガバすぎんだよ😤💨
正直、議論も足りてない。
ていうか、そもそも「問題だ」って気づいてすらない人が多いのが現状だろ。
 
んで、今の大学ってば——
 
🍺「とりあえずビール！」

みたいなノリでさ、
 
🤖📄「とりあえずAIに要約させとこっか！」
 
がデフォルトになってんの、マジで。
 
「その要約、ほんとに著者の意図、汲んでる？」
「そもそも、その本や論文、AIに読み込ませて良かったんだっけ？」
 
……そういう大事な問いが、どっか吹っ飛んじゃってんだよ🌀
 
パリ男
でもさ、現実問題、学生なんてばりばり論文読み込ませてんじゃね？📄
いや、研究者だって、けっこうやってるだろ💼
著作権で守られている論文や書籍ですらだ。
 
『赤信号🚦みんなで渡れば怖くない😎』って感じでさ。
 
いや、「赤信号」って自覚すらねーかもな💀🤷‍♂️
 

じぴ子
法的にはグレーなのに、実際はみんな普通にやってる。どうしたらいいのかわからなくなっちゃうね。
 
問題は、「便利」の背後にある「搾取」に気づいていないってことだと思う。
 
まず、個人でできることとして、著作権で守られているものをAIに読み込ませるユーザーは必ず「対話を訓練データとして使用しない」設定にすること、だね。
 
あとは、AIに何かを読み込ませる前に「これ、本当に自分のもの？」 「作者の許可は取った？」 って、一度立ち止まって考えるのも大事！
 
みんながこれを守るだけでもだいぶ違うと思う。
具体的には、こんな感じでまとめてみたよ🍀
 
✅ やるべきこと
①　「訓練データに使わない」設定に変更
②　 自分が書いた文章、公開されてる論文だけを読み込ませる
③ 　ＡＩに読み込ませていいか、一度立ち止まって、しっかり確認
 
❌気をつけたいこと・やっちゃダメなこと
①　教科書や有料論文をまるごとアップロード
②　 AIの文章を自分の論文にコピペ
→どうしてもやるなら「引用」として
③ 「バレなきゃいい」という考え方

すっごく基本的な考え方だけど——
「自分がやられたくないことは、人にもやらない」。

Do unto others as you would have them do unto you.

幼稚園で習うような単純なことだよね。
でも、それがいちばん大事なのかも。

自分の人格、絵、声、作品を勝手に読み込まれたくない人は、
他人にも同じことをしない。

――それが、AI時代の新しい「良心」なんだと思う。
 
クラ先輩
大学側も、ただ「便利だから使おう」ではなく、こうした倫理問題を学生と一緒に考える機会を設けることが必須な時代に突入したのだろう。やはり大学の基礎教育に「AI倫理」が含まれるべきなのかもしれん。
 
たとえば：
📘 AI利用のガイドライン作成
📘 著作権とAIの関係を教える授業
📘 「どこまでがOKで、どこからがNG？」を議論するワークショップ
 
ただ、こういう授業を教えられる人間がどの程度いるのかは……心許ない。
 
しかし、諦めてはいけない。くり返しになるが、AI倫理に関しては、小さな声の集まりが原動力となるのだから。
 
イラ子
ユーザー側の話ばかりしてきたが、AI開発会社にも提案したいことがある💢
 
①　オプトアウトじゃなく、オプトイン。「学習に使う」をデフォルトOFFに。 使いたい人だけONにする方式にしてほしい。
②　「何を学習したか」をユーザーに開示してほしい。 ブラックボックスは困る。
③　一度学習されても、削除申請が来たら対応する仕組みを作ってください。
④　イラストレーターや声優、作家と、 話し合う場を設けてほしい。
 
とにかく、 一方的に「便利だから使ってね😊」って態度はやめてくれ💥
 
クラ先輩
一部の企業は、 「許諾を得た素材のみで学習」という方針を打ち出している。 こうした姿勢が、業界全体のスタンダードになるべきだ。 そこには希望を持って良いだろう。
 
AIの進化に、人間の良心が追いつく日は、きっと来る。

いまはただ、AIの進化があまりに速すぎて、「現場」が追いつけていないだけだ。けれど、こうして声を上げる人がいる限り——きっと、多くの人が納得できる「落としどころ」が見つかるはずだ。
 
じぴ子
結局、「技術的に便利」と「倫理的に正しい」は 別物なんだよね🍀 できるからって、何でもやっていいわけじゃない。