晨涧云文档

首页

目录

常见问题(FAQ)

CUDA版本号问题

1.为什么通过watch nvidia-smi看到的cuda版本号和nvcc -V看到的版本号不同
这是因为你通过两个不同的“窗口”看到了CUDA的两个不同侧面:

  • nvidia-smi 显示的是“GPU驱动支持的最适配版本”:它来自你的NVIDIA显卡驱动,告诉你:“我的驱动很强大,我最适配CUDA 12.4的程序!”

  • nvcc -V 显示的是“当前正在使用的开发工具包版本”:它来自你安装的CUDA Toolkit,告诉你:“我现在这个编译器是CUDA 11.8版本的。”

显卡GPU的利用率

1、A100显卡在windows系统的任务管理器中怎么看不到显卡GPU的利用率?

  • 推荐使用使用 nvidia-smi 命令,详细操作可参考:Windows Power Shell 查看GPU利用率

  • 原因是:A100是“计算卡”,不是“游戏卡”
    A100是NVIDIA专为数据中心和深度学习打造的专业计算卡,它的核心任务是搞AI训练、科学计算这类“高强度的脑力活”。它不像我们熟悉的RTX系列游戏显卡那样,主要工作是处理复杂的图形渲染和画面输出。打个比方,A100更像是一个专注于计算的“数学家”,而任务管理器这个“工具”默认是设计来观察“画家”(游戏卡)的工作状态的。

云主机 vs. 云容器——如何选择你的GPU计算资源?

两者均提供高性能GPU算力,但在使用体验上各有侧重:
1. 操作系统与交互

  • 云主机: 支持Windows、Ubuntu、CentOS。其中Windows和Ubuntu支持远程桌面操作,适合需要图形界面进行开发或设计的用户。

  • 云容器: 支持Ubuntu,提供命令行操作(SSH)和Jupyter Lab交互,更适合习惯命令行、追求轻量化开发的算法工程师。

2. 模型版本支持

  • 云主机: 环境相对固定,模型版本较为固化,保障了环境的长期稳定性。

  • 云容器: 灵活性更高,支持多种框架和丰富的版本迭代,方便用户快速尝鲜和切换。

3. 计费模式

  • 云主机: 支持通过【晨涧云mornai.cn按天/按周/按月进行租赁。

  • 云容器: 除了云主机的计费模式,孩纸支持通过【晨涧云mornai.cn进行小时级按需付费,随开随停,成本更可控。