[ERR] CUDA unknown error - CUDA_VISIBLE_DEVICES ~

🚫 ./start_linux.sh에서 CUDA unknown error가 발생할 때

text-generation-web-ui를 사용하다가 gpu를 재부팅 했더니 갑자기 CUDA unknown error가 발생했다. 갑자기 되던 게 안 되어서 띠용? 했는데 쉽게 해결되었음

UserWarning: CUDA initialization: CUDA unknown error - =this may be due to an incorrectly set up environment, 
e.g. changing env variable CUDA_VISIBLE_DEVICES after program start. Setting the available devices to be zero.

 

✅ nvidia-uvm 모듈 재설치

# 삭제
sudo rmmod nvidia_uvm 
# 재설치
sudo modprobe nvidia_uvm

• OS : Rocky Linux 9
• GPU : H100