【踩坑笔记】Nvidia T4计算卡在Windows服务器使用docker
1、背景
业务上有个需求,希望在 Windows Server 2022 内通过 wsl2 部署 docker 运行类似 Ollama 的 GPU 服务。但 T4 计算卡使用通用方案直接安装官网下载的 GPU 驱动 + docker desktop 无法在 docker 内调用 GPU。
具体表现为:wsl 内nvidia-smi
命令正常;nvcc -V
命令正常,docker 内nvidia-smi
命令异常。网上找到修改注册表可以强启WDDM模式,尝试后,docker 内能看到 GPU,但程序无法调用。