同じ理由で、脅迫とかの検出もできないだろう。
今の生成AIは、大量のデータを基礎に「この語の次に来る語、次に来る確率が高いのはどれか」という計算をしているだけ。言語表現に対し「差別/差別でない」「脅迫/脅迫でない」の判定をして、これを人間に正誤のチェックさせてAIに食わせるデータにしてるみたいだけど、これだと、いくらやっても記号の上で明示的に表現されているとは限らない文脈に依存した解釈は原理的に不可能。そもそもやってないんだから、そんなこと。
それができるようになるためには、たとえば、その言語が使われている場面の360度画角からの映像データなどを含む大量の文脈データとセットで確率計算するのでないと無理。そうなると、データもないし、現在のコンピュータの計算能力でもまだ追いつかないのではなかろうか。
今井先生の「学力喪失」で一番「なるほど!そういうことか!」と思ったことだけど、AIの「言語」は「記号接地していない」ということとも関係するが、AIはとりわけ「視点変更」がうまくできない。
AIがよく分数の計算とか間違うのは、この辺が関係してるらしい。たとえば、「1/3」という表現は、「何の」1/3なのかという視点の設定に依存して意味が決まる。そのため。言語で表現されていない文脈のどこに接続して解釈すれば良いのかの判断が必要で、「1/3」という記号が使われている場面のデータを大量に食わせて確率計算させても正しく扱えるようにはならない。
視点変更がうまくできないと、たとえば、皮肉を理解できなくなる。その結果、皮肉のような言語効果を使った差別表現にも対応できなくなる。
なので、差別表現の検出をAIにやらせよう、というのは、おそらく、原理的に無理筋。学習させるデータが増えたら何とかなる、という話じゃない。
「人間を人間と見なさない行為に抵抗してきたのが被爆者運動です」
「私たちはこの(被爆者運動による)“貯金”がなくならないよう理念を引き継いでいかなくてはいけません」
[被団協に寄せて ノーベル平和賞] 京都大教授 直野章子さん 人間性奪う行為否定 | 中国新聞ヒロシマ平和メディアセンター https://www.hiroshimapeacemedia.jp/?p=147034
小学校の時、という話をするのであれば教室で何人が国語のテスト満点取れたか、何人がたどり読ではない朗読ができたかを思い出せば、自ずと答えは。
小学校から高校までクラスメイトが同じ話題であーだこうだ話してるとき、発言力のある子が多数派と違う意見言ったとたんころっと意見変えるやつ多くて軽蔑してたけど、あいつらがそのまま大人になったのが「普通の神戸市民」やったわけね。そりゃそうよね、同じ神戸やもんな。子どもの頃のそういう体験忘れて都合よく夢見てたわ
“話者の音声をシミュレートすることで、まるで話者が翻訳された言語で話しているようにすることも可能と説明されています。”
日本語話者の日本語だと声が高い問題とかどう扱うんだろ。
[速報]マイクロソフト、Microsoft 365 Copilotの新機能として音声同時通訳を提供、Teamsで利用可能に - Publickey https://www.publickey1.jp/blog/24/microsoft_365_copilotteams.html
“日本や韓国を含む10カ国すべての非常任理事国が共同提案し、全15理事国のうち14カ国は賛成した。”
“イスラエルとハマスの戦闘が始まった昨年10月以降、米国が人道支援の確保や停戦を呼びかける関連決議案に拒否権を行使したのは、修正案を含めて5回目。このほか今年4月には、パレスチナの国連への正式加盟を求める決議案も米国の拒否権で否決された。”
なんなん?
安保理のガザ停戦要求決議案、また米国が拒否権 5回目の行使 | 毎日新聞 https://mainichi.jp/articles/20241121/k00/00m/030/006000c
Colaboについて虚偽を並べ立て、「インフルエンサー」を中心としたSNS上のコミュニケーションを通じて暴力へのハードルを下げ、物理的な暴力の脅威すら伴うかたちで活動への妨害もたらす「ネット暴徒」は、それによってまた、Colaboがアウトリーチしていた少女・若年女性たちから必要な支援や選択肢を奪っている。
同じように、にじーずに対して虚偽を並べ立て、SNS上の異常な閉鎖性のなかでトランスジェンダー・LGBTQへの憎悪をたかめ、貴重なアウトリーチの手段すら奪った「ネット暴徒」は、またにじーずが作ってきた貴重な居場所を危険にさらし、つまるところにじーずの作る居場所を必要とするユースに対して実害を行使しつづけている。
こんな無茶苦茶なことが許されていいはずがない。暴徒は暴徒。公金がどうだとか、グルーミングによる被害から若者を守るとか、意味不明な大義を掲げながらNPOを攻撃している人たちの暴力性を助長するプラットフォームは、害が大きすぎる。そしてその暴力性を「ネットのこと」としてスルーしてきた主流メディアにも、責任の一端はある。ただ、一部の政治家すらその暴力に加担しているのではあるけれど。
「ここにある一切は、小説の一登場人物によって語られているものと見なされるべきである。」―「彼自身によるロラン・バルト」扉表紙