LLM推論中に青画面。前回から3日しか経ってないので明確な原因があるはず。とりあえずiGPUを有効化してから発生しだしたので、またオフにしてみる。
以前はChrome利用時に落ちてて、Chrome側でGPU設定を変更し、iGPUをオフったことで改善したので、前者が効いたかと思っていたが、もしかするとiGPUが主因だったのかもしれない。
これで様子見するが、原因が他にある場合は特定困難だな。
CUDA toolkit 118→121が影響してるとしたら頭痛いけど…
CUDA toolkitはランタイム的なものではなく、SDKなんだよな?ランタイムはnvidiaドライバそのもの、ということでいいのよね?
つまり、コンパイル済みのpytorchを使う分には、システムにインストールされているCUDA toolkitは特に使われることはない、という理解であっているよな?
これらの前提が正しければ、CUDA121対応のpytorchを使うモデルを長らく使っていて、特に問題はなかったから、システムにtoolkitをインストールしたことは無関係だと思われるのだが。
AIさんが青画面の原因調査出来るようになる日はくるだろうか。
様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。
CUDA toolkitはランタイム的なものではなく、SDKなんだよな?
ランタイムはnvidiaドライバそのもの、ということでいいのよね?
つまり、コンパイル済みのpytorchを使う分には、システムにインストールされているCUDA toolkitは特に使われることはない、という理解であっているよな?
これらの前提が正しければ、CUDA121対応のpytorchを使うモデルを長らく使っていて、特に問題はなかったから、システムにtoolkitをインストールしたことは無関係だと思われるのだが。