ChatGPTにLLMが動くGPU(RTX 4090)のトランジスタを実世界くらいの大きさにしたらどれくらいになるかを教えてもらった。検算してないけどまあ途方もない広さになるよね。あと本質的にはメモリヘビーだし狭いところに敷き詰めるのが物理的に大事なのであまり意味のない推論なのは分かってるんだけど。