人間は嘘にしろ間違いにしろあまりにも連関のないことは言えないっていうのがある。実はそれ自体はAIも変わらない。ところがその連関なるものの概念自体が違っていて、たとえば地名を与えられると人間が持つ連関はその特定の地名(乃至は似た地名)における自分の知識や経験ということになるが、AIにとっては理論上その特定の地名に続き得る語のすべてということになるからズレてしまう。
しかも厳密に言えば人間の連関が主題ベースであるのに対してLLM系は直前単語ベースなので、たとえば人が青森に対して東北、りんご、雪…などを想起する間に、AIは青森→りんご→果樹園→先端農業技術みたいな単線連想ゲームをしているわけだ。