>大規模言語モデルは本質的に、空想的にテキストを予測しているに過ぎないため、こうなることは理解できます

ChatGPTが同時多発的に奇妙なことを言い始めて「ChatGPTが発狂した」「発作を起こした」という報告が相次ぎOpenAIが慌てて修正 https://gigazine.net/news/20240222-chatgpt-insane-unexpected-outputs/