生成AIは人類の叡智の結晶だと思ってるし、純然たるサイエンスだと思ってるんだけど、AIとしての能力評価になると途端に非科学的になるのなんなん、ってずっと思ってる。

別に一般人とかAI情報商材の人が、これはAGIだ人類は滅亡する、とか言っても別にいいと思うんだけど、AI研究者すら似たようなことを言ってるので頭が痛い。

人工知能どころか、天然知能、つまり人間の知能だって、脳神経活動と意識や思考の具体的な関連とか、まだよく分かってないのだし、AI研究者の専門外だから仕方ない、というのは確かにあると思う。AI性能の客観的評価には、試験問題を解かせるみたいなベンチマークくらいしか無いのも分かる。

でも、試験勉強いっぱいさせたら試験でいい点取れるようになったという現象の、どこに科学があるんだと。こういう勉強をさせたらこういう問題ができるようになった、で終わらせずに、この問題が解けるようになったのは何故か?を考えるのが科学じゃないの?

生成AIは「覚えたことを再現しているだけ」ではなく、思考しているから問題を解けるのだ、という主張をするには、「何故、思考できるのか」に解を与える必要があると思う。なんせ、機械学習、ニューラルネットワーク、transformerとかの仕組みだけでは説明が付かないので。

生成AIが思考っぽいことができているように見える理由に解が与えられてない以上、今後、LLMに学習データをいくら喰わせても、学習データを超える出力が得られる見込みは無いんじゃないのか?どうしてAGI/ASIの登場を信じられるのか?
…というようなことを日々考えている。

むしろ、現行の生成AIがもしAGI/ASIに到達したら、人間の知能って学習したデータを再現することだったんだ…と理解することになると思う。

私はそうはならんとは思ってるけど、もしそうなったら、そのときはとてもガッカリするだろうな。人間の知能って、そんな薄っぺらいもんだったんかってw

LLMに会話っぽいことが出来るのは、会話文を学習したからだし、ステップ思考ぽいことが出来るのも、そういう文章を学習したからだ。そんなことはAI研究者、技術者には百も承知なのに、だからAIは思考しているのだ、みたいなことを言うのは本当にやめて欲しいんよな。

o1の言ってることはもう(俺には)理解できない、だからこいつは人類を超越した知能を持ってる存在だ!とかいうの、ほんとキツい。別に普通の人が言うのはいいと思うんだけどね…

フォロー

言ってることが理解できないAIに意味はないよなぁ。
我々は、何かを理解したいからAIを使うんだし。

ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。