反AI活動、気持ちは良く分かるし、法的にどうにもならないなら、過激化していくのも必然だと思うので、なんというか救われない話だよな。

自分の作品を機械に勝手に読み込まれ、それを通じて自分の創作能力を機械にコピーされ、自分自身と競合する脅威となる、しかもなんとすべてが合法的に行われる。

…なんて状況、自分がもしその立場だったら絶望もするよ。生成AI使うんなら、クリエイターの絶望だけは理解しておこうよ、と思う。考えられる限り、最悪の状況だと私は思う。

生成AIの成り立ちを考えたら、生成物に創作性はなく、価値があるとすれば学習データに起因するものなのだから、生成物をそのまま売って利益を得るのはなんか違うやろ、という認識は、残念ながら根付かなかったな。

業種としての「AI絵師」が登場してしまったのは残念だ。NovelAIが、売れるクオリティの生成物を出力できるモデルをリリースしてからおかしくなっちゃった感があるね。リークはまあ、状況悪化を加速させた面はあるが、モデルが利用可能になった時点で、「ゲームエンド」したのだと思ってる。

しかし、観測範囲内では、どうも技術者肌の人ほど、生成AIの知性や創造性を信じてるっぽいのは不思議ではある。

単にポジショントークしてるだけとも思えないし、原理を理解してないからということでも無さそうなのよね。

となると、私が生成AIに関して決定的な誤認識をしてる可能性が残るんだが、生成AIの理論や実装を学んだ上でもやはり、知性や創造性の源が未だに見つからない。観測できないのに、あると仮定するのは科学じゃなくて宗教の範疇だと思うんだけどなあ。

生成AIに知性や創造性を見出すのは、生成AIユーザーなら分からなくもない。のだが、AI開発者とかモデル開発者にも同じ傾向があるような気がして、これはさすがにポジショントークよな、と思ってはいる。なんたって、生の学習データを読み込ませている本人なのだから、そのモデルの成り立ちは流石に理解してるはず。

「機械学習によりモデルが習得した特徴量がどういうものなのか、人間には認識できない」ことをもって、人間に認識できないからこれは機械独自の考えだ、つまり機械は知性を持っている、みたいな発想なんかな。

学習プログラムを作ったり使ったりした上で、そんな発想にはならないと思うんだけどな？
演算結果は読めなくても、演算方法は分かってるわけなんだし。

マシン語は読めなくても、実行ファイルに知性がある、とは誰も思わんのと同じだと思うんだよな。

「知性の有無は、内部処理は関係ない。入力に対する出力に知性を感じたなら、その系には知性があると見做して良い」みたいな言説も、「いや、私にはこのAI出力に知性を感じないので、このAIには知性はないですね」としか言いようがないのよな…。