AIは嘘をつく、というか現段階では正しい文法法則と表現でキーワードである単語を使った文章を出力するものなのであまり期待したり頼りすぎたりしてはいけない。しかもAIは我々がその思考や出力の過程を追えないシステムなので。ブラックボックスの怖いとこだよね。どこで何が起きてるかわかんないからどこでor何で誤学習してるのかも推定しかできないはず。