LLM推論中に青画面。前回から3日しか経ってないので明確な原因があるはず。とりあえずiGPUを有効化してから発生しだしたので、またオフにしてみる。

以前はChrome利用時に落ちてて、Chrome側でGPU設定を変更し、iGPUをオフったことで改善したので、前者が効いたかと思っていたが、もしかするとiGPUが主因だったのかもしれない。

これで様子見するが、原因が他にある場合は特定困難だな。

フォロー

CUDA toolkit 118→121が影響してるとしたら頭痛いけど…

CUDA toolkitはランタイム的なものではなく、SDKなんだよな?
ランタイムはnvidiaドライバそのもの、ということでいいのよね?

つまり、コンパイル済みのpytorchを使う分には、システムにインストールされているCUDA toolkitは特に使われることはない、という理解であっているよな?

これらの前提が正しければ、CUDA121対応のpytorchを使うモデルを長らく使っていて、特に問題はなかったから、システムにtoolkitをインストールしたことは無関係だと思われるのだが。

AIさんが青画面の原因調査出来るようになる日はくるだろうか。

ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。