> 人には流暢性バイアスという思考バイアスがあります。流暢に言われると、全く辻つまが合っていなくても信じてしまう。だから古今東西、中身がどうであれ演説がうまい人が政治を牛耳ったりしてきたわけです。そして対話型AIは、間違った答えを返すことが頻繁にありますが、あまりに流暢に堂々と言うから気づきにくいのです。

> AIは記号接地していない＝意味を考えないですから、データの海を漂流して、データの確率的なパターンを抽出することは、ものすごくうまいし、人間にはできないことです。しかし、そこから意味をくみ取るとか、直観的に捉えるといったことはしないし、できない。

ChatGPTをはじめて触ったとか挙動を見て「こいつ、言葉に対する何かが人間とは違うな？」と感じたことがあって、その後記号接地という名前がついていることを知って納得した。記号接地問題おもしろいよね

AI推しをしている人をみてずっとなんかの違和感を感じていたが、流暢性バイアスの存在だわ。流暢性バイアスがあるのに大丈夫なん？批判的に捉える訓練ちゃんとしてて言ってる？どうなの？っていう

今井むつみ　AIが代替できない「この数字おかしくない？」の直観 | 日経BOOKプラス https://bookplus.nikkei.com/atcl/column/101000304/061100010/index.html