現状の文章生成AI、質問の前提が狂ってるとおかしな回答をするのがどうもな……という感じ。
例えばこれは「哺乳類と闘牛の違いは？」と質問した時。まともな知性ならば、これがナンセンスな質問だと気がつくだろう。
しかし、（少なくとも私が試した時は）bingは馬鹿正直にインターネットをサーチした挙句、闘牛は無脊椎動物の変温動物だという結論を出した。