LLMは、その学習知識を主に表層Webに存在する既存の文章から得ているという性質上、超凄いクラウド予測補完機能を超えることは無いんだし、予測補完をそのまま使えるわけがない、必ず内容の妥当性を評価する必要がある、それはどんだけLLMが進化しても変わることはない。
そして、LLM出力内容の妥当性を評価するには、出力した本人がその内容を理解する能力が必須なのも、絶対に変わらん。
フォロー
LLMが医師国家試験で満点取った、みたいな話をすると、すぐ短絡的に、もう医者は要らないとかの話が出てくるので、むしろ害悪なんじゃないかってくらい思ってる。これ画像生成AIでは、既にそうなってしまってるけどな。
LLMで解決できる問題は、ググって解決できる問題のレベルを超えることはない。つまり、既知の問題は解けるかもしれないが、未知の問題は解けない。
未知の問題をLLMに問い、得られた回答が、どれだけ解答のように見えたとしても、それが解答であるかどうかは未知。LLMの回答を解答たらしめるのは、使用者である人間の役割だ。