@lamrongol 工学的に「大規模言語モデル(LLM)の中で本当は何が起こっているのか」は未解明で、AIの出力を人間の意図に合わせてコントロールする技術（AIアライメント）はまだ不完全です。不完全なので「時々AIの挙動がおかしい」といった報道が出てくる訳です。

工学的に完全に解明されていないのですから、予測できない事故などが今後発生し、その責任の問題などで法律の専門家が頭を悩ませる事態も出てくるでしょう。米国では「自動運転車（自動運転機能）に伴う事故をどう扱うか」が社会問題になっています。少なくとも13人の死者が出ている問題です。

ハリウッドで昨年、脚本家組合と俳優組合が大規模なストライキを打ちました。主な論点がAIでした。映画会社は、脚本家や俳優が不利になるようなAIの使い方はしない（脚本のデータや、俳優のデータをタダで使い放題にしない）という合意を得てストライキは収束しました。

さて「画像生成AIが人間の絵描きの権利（著作権、特に著作人格権）を侵害しているかどうか」ですが、世界的なトレンドは、「AIの開発元は、学習データの出所を追跡可能にするべきである。コンテンツクリエーターは無断で学習に使われない権利がある」というものです。（続く

@lamrongol 欧州連合(EU)の「AI法」草案ははっきりこの路線です。米国での議論もこれに近い。

例外的なのは日本で、産業振興の観点から、いちはやく「AIの学習データに用いることは著作権の範囲外である」と著作権法に書き込みました。それが、著作権法（令和五年法律第三十三号による改正）の第三十条四　（著作物に表現された思想又は感情の享受を目的としない利用）です。なので日本では「AIの学習はし放題」です。

AIのトップベンダーであるOpenAIのサム・アルトマンや、Nvidiaのジェンスン・フアンら企業トップは、日本までわざわざが訪日して岸田首相と会談しています。日本は欧州や米国よりもAIフレンドリーで、AI著作権ヘイブンな国なので、AI企業にとって要注目の国になっているのです。経産省も、「クラウドプログラム」としてAIデータセンター（AI計算基盤）に1000億円以上を助成すると言っています。ソフトバンクは「AI計算基盤」に1500億円規模の投資（前述の経産省の助成金含む）でNvidiaの半導体を調達して大規模AIデータセンターを構築すると言っています。
（続く

@lamrongol ただし、そんな日本でも、「AIが生成した画像が学習元データのクリエイターの著作権を侵害しているか」という問題は、正直、判例が出てこないと明確なことは言えないのでは、と考えています。

産業振興か、著作権保護か、という軸でいうと、日本は圧倒的に産業振興に寄せた議論が中心です。一方で、欧州のAI法はバランスがよく、米国もクリエイターの権利を守る方向になるでしょう。例えばOpenAIがメディア企業のFTと契約した件は、「著作物は使い放題ではない」という当たり前の原則を思い出させてくれます。

自分の意見として、日本が「AIヘイブン」としてAIベンダー有利な政策を続ける可能性はけっこう高いのではないかと見ています。司法がどう判断するかは要注目です。なので最初の裁判が重要になるでしょう。

日本においてAI絵に関する反発が存在していることは理解します。ただ、残念ながら、それら反発する意見の多くは、司法や政治に訴えられる強度を持っていないと見ています。

@AkioHoshi 記事には収まりませんでしたが、(音楽以外でも無断機械学習を批判している)JASRACの上位にあるCISACからベルヌ条約の3 stepテストを30条の４は突破できない(＝国際法違反)と警告を受けていると言った話もあります。

とりあえず(ネット中心の)ニュースメディアを追っていても出てこない「ITによる(ITを起因とする)人権侵害」について知って頂きたく記事を通知しました。それと「EA」の「火事でピカソの絵と子供一人どちらを優先するか」などに論理的にも詳細な反論が可能、などの点や(厳密性は欠いてるかもしれませんが)ナチス思想に本当に近いと言える事など。

@lamrongol 話題を2つに分けてレスポンスします。

「法」
ベルヌ条約とAIの関連は現在進行形の話題ですね。CISAC、JASRACの言い分にどういう裁定が下るのか。一方、米国の場合は著作権のフェアユースという概念があり、AI応用でもその解釈が重要になりそうです。

以上ふくめて「法的には、まだ断言できない」が、当方の今の意見です。

またAIと著作権の問題は、個別的具体的に「著作権を侵害されたと考える当事者による告発」や、「権利侵害のおそれがある当事者による告発」の形を取ることが望ましいと思っています（例えばハリウッドのストライキのように）。

「それ以外」
AIに取り組む人々、特にテック富豪の「思想」が怪しい、という話は、著作権の問題とは違う話ですが重要だと考えます。ゲブルとトレースのTESCREAL批判論文が公開されましたので、今後は議論が盛り上がることを期待したいところです。きちんと言語化し、批判していくことが大事です。

私の意見では、以上の2つの話題、著作権問題とTESCREAL批判を混ぜることはそれぞれの批判の強度を下げてしまう懸念があり、自分としては別々に考えて言語化していきたいと考えています。

@lamrongol それと、教えていただいたCISACは、かなり整理された声明を出していますね。

CISAC Statement for the 9th Session of WIPO’s Conversations on IP and Frontier Technologies “Training the Machines – Bytes, Rights and the Copyright Conundrum”, CISASC, 14 Mar 2024
https://www.cisac.org/Newsroom/articles/cisac-statement-9th-session-wipos-conversations-ip-and-frontier-technologies

この内容を見ると、EUのAI Actと共通の問題意識を持ち、より厳しい内容です。例えば、AI開発者にコンテンツ利用にあたりライセンス契約と対価支払いを義務付け、オプトアウトの権利を求め、権利特定のための透明性を求めています。

この主張がどこまで認められるのか、それが日本の法域まで影響するか、このあたりは、AIと著作権法の分野ではけっこう重要になりそうです。

@AkioHoshi
> 著作権問題とTESCREAL批判を混ぜることはそれぞれの批判の強度を下げてしまう懸念

うーん、いえ、これも「無断生成AI反対派」で広く言われてる事ですが、著作権は人権で、それを蔑ろにすることとTESCREALは繋がってると思います。「全容」を書くためとは言えいきなり4万文字近い文章を送りつけてしまいましたが、伝えたい事を要約すると、

1. 著作権、その中でも著作者人格権は「心を守るための権利」で「イラストを勝手に改変される」事は想像以上に人間の心に傷を与える(私も絵を描かないのであくまで聞いた話ですが、原作改変で『セクシー田中さん』の原作者が自殺者した件や、それと「声」の例なら分かりやすいと思います)
2. CSAM(児童性虐待記録物)もデータセットに合わせて含まれており「著作権」の問題を超えている

以上です。

@lamrongol そうですね……もちろん、そちら様がどのような意見を持とうと、それは自由です。

一方、私は——繰り返しになりますが——人権と著作権は違うものなので、分けて論じるべきだと考えます。

人権は、「地球上のすべての人が平等に持つ不可分で不可侵のミニマムな権利群」と表現できます。詳しくは国際人権法により、独自解釈の余地がないほど詳細に定義されています。そして人権を守るために国境を越えた人権システム（国連、NGO）が存在し、予算、人員が投入されています。国際法的にも組織的にも「人権とは何を守るシステムなのか」が明確に定義されている訳です。

一方、著作権は、主に著作権者を商業的に守るフレームで、主に国内法の問題となります。（国際条約としてベルヌ条約がありますが、国境を越えて法的強制力を行使することは実効性が難しいので）著作権法を守るものは、契約と司法です。

一般論として「著作物の改変が、著作者の精神的苦痛を伴う」ことには同意します。しかし、それは人権のフレームで扱う問題ではなく、著作権法と私人間契約のフレームで処理されるべきです。人権の出番があるとすれば、それは著作権法の範囲を越える人権侵害が認められる場合です。
（続く

@lamrongol 問題を切り分け、個別に議論を深めていくのがいい、というのが私の立場です。

挙げていただいた例でいうと、「セクシー田中さん」事件は、TVスタッフらによる原作者に対するハラスメントの帰結の問題と推測されます。原作者は契約通りに著作者人格権を行使しようとしたが、それに反発したハラスメント行為があり、悲劇的な結果につながった可能性があります。著作権法が問題となった事件というより、ハラスメント疑いの事件として考える方が、論点がクリアになるのではないでしょうか。

一方、CSAMの存在は人権問題です。もし「AIがCSAMをアウトプットしてしまった」のであれば、それは人権問題のひとつといえます。ただしCSAMをAIが学習することがただちに人権問題となるかどうかは、議論の余地があります。

もちろん、違う意見を持つことは自由です。ただ、議論する上では共通のフレームが必要になります。人権と著作権の話は分けた方が、いろいろな意見を持つ人々の間での議論がやりやすくなるのでは、というところです。

@AkioHoshi あっ、「AIがCSAMをアウトプット」は既に起きています。
それも「イラスト投稿サイト」のハズの「pixiv」というサイトで、です。 -> 生成AIの児童性虐待画像を売買　日本のソーシャルメディアなどで - BBCニュース https://www.bbc.com/japanese/features-and-analysis-66038728

-> 【AI絵師のやばいニュース】ファンボックスで「ショタ」「ロリ」タグを使用していた絵師が次々と非公開措置、原因はAI絵師【江都セトラ@setora66】｜GORlLIVE https://note.com/gorllive/n/naffa265e0b4f

つまり「AIイラスト」と「児童ポルノ」が同じプラットフォームに上げられていて、それは恐らく同じ層がやっていて、さらに「ネット世論」を支配し差別発言(や前にBlueskyで言及して頂きましたが「頂き女子殺人事件」の擁護を行なっている)ノイジーマイノリティも同じ層では無いかと推測され、これらはすべて関係しているのではないか━━という話です。
他にも前提としている知識に違いがあるかもしれませんが、超長文ですし時間を置いてまた読んで頂ければと思います(とりあえず「AI児童ポルノ」の話は記事に入れておこうと思います)。