囲碁、将棋であれば、「人間には理解出来ないが凄い」手というのが、勝利条件というものがルールにより明確に定まっていること、その手が実際に勝利を導いているという事実、によって担保されるけど、「人間には理解出来ないが凄い」表現というのは成立し難い。
その手前の「自分には理解出来ないが凄い」表現であれば、実際にそれを見ておののく人たちの存在だったり、ある人が評価しているという権威性だったりで担保されうるけど、当然そこにはヒトの存在が不可欠であって、表現というものはそもそもヒトに係わるものであるから、「人間には理解出来ない」というところで蹉跌する。
そういう意味で表現においてボトルネックになるのはヒトになるのだろう。
ChatGPT的なのの次の課題として、内容をいかに評価するか、担保するかというのがあって、専門知とどう接続するかという話ではあるけど、じゃあその専門知をどう担保するか。
専門家に協力してもらうとしても、有機アミン説なり歴史修正主義者なりを呼んでも困るわけで、モデルを学習して公開する人たちの倫理性も問われてくる。