9月17日、米国カリフォルニア州のギャビン・ニューサム知事は、選挙へのディープフェイクの影響を防止するための3つの法案に署名した。だが、そのうち1つの法律を10月3日に連邦判事が差し止め。そして別の法律を11月14日にイーロン・マスク支配下のXが憲法違反として訴えた。選挙戦でのディープフェイクを禁じる動きに強いバックラッシュが起きている。
選挙戦に関するディープフェイクとして、例えば次の出来事があった。7月、イーロン・マスクがリツイートしたカマラ・ハリスの偽キャンペーン動画広告では、ハリスの声を変えてバイデン大統領を"老人"と呼び、自分自身を"無能"と呼ぶようにリスナーを騙した。
今回話題にしている法律は3つある。順番に、法律の内容とその後の出来事を説明する。
(1)AB2655：大規模オンライン・プラットフォームに対して、特定の期間中、選挙に関連する欺瞞的なコンテンツやデジタル的に改ざんまたは作成されたコンテンツを削除または表示することを義務付け、そのようなコンテンツを報告するための仕組みを提供するよう求める
（続く
(2)AB 2839：AIが生成または操作した欺瞞的な内容を含む広告またはその他の選挙資料を故意に配布することを禁止する期間を拡大する。またそのような資料の配付を差し止める民事訴訟を起こす権限を与える
(3)AB2355：AIによって生成された、あるいは大幅に改変されたコンテンツを使用した選挙広告には、その素材が改変されたものであることを開示することを義務付ける
◎その後の出来事
10/3、メンデス連邦地裁判事は、上記(2)のAB 2839に対して仮差し止め命令を出した。メンデス判事はAIとディープフェイクには重大なリスクがあるとしつつ、法律が憲法修正第1条に違反する可能性が高いと判断。「AB2839の大部分はメスの代わりにハンマーの役割を果たし、ユーモラスな表現を妨げる鈍器として機能し、アメリカの民主的な議論に不可欠な自由で自由な意見交換を違憲に阻害する」と記した。
11/14、(1)のAB2655に対して、イーロン・マスク支配下のXが憲法違反として提訴した。訴状には「政府高官や公職の候補者に批判的な言論に対する憲法修正第1条の保護が最も強いという長い歴史があり、そのような批判の文脈でなされた虚偽の可能性のある言論に対する寛容も含まれている」と記されていた。
雑感：
イーロン・マスク側の主張は、「フェイクも言論の自由のうち」ということになる。なんともはや。
◎論点をうんと短く表現すると、こうなる
カリフォルニア州 「ディープフェイクを選挙に使うな。SNSはディープフェイクにラベル付け、削除をし、報告機能を作れ」
イーロン・マスク 「法律は憲法違反。フェイクニュースはユーモア（Xにディープフェイク対応コストが発生するのも嫌だしね）」
●情報源
9/17、カリフォルニア州のニューサム知事が3つの州法、AB2655、AB 2839、AB2355に署名
The Recordのニュース記事
https://therecord.media/california-enacts-law-regulating-deepfakes-election-harris
ニューサム知事のプレスリリース（3つの法律の内容を記載）
https://www.gov.ca.gov/2024/09/17/governor-newsom-signs-bills-to-combat-deepfake-election-content/
10/3にメンデス連邦判事が州法AB2839 を差し止め
https://www.cbsnews.com/sanfrancisco/news/california-election-deepfake-law-ab2839-blocked-by-judge/
11/14にイーロン・マスク支配下のXが州法AB2655を憲法違反として提訴
https://www.cbsnews.com/sanfrancisco/news/elon-musk-california-deepfake-lawsuit-ab-2655/
https://therecord.media/x-sues-california-deepfake-election-law
Gigazineの日本語記事
https://gigazine.net/news/20241118-x-sues-california-ai-law/