晨涧云文档

首页

目录

常见问题（FAQ）

CUDA版本号问题

1.为什么通过watch nvidia-smi看到的cuda版本号和nvcc -V看到的版本号不同
这是因为你通过两个不同的“窗口”看到了CUDA的两个不同侧面：

  • nvidia-smi 显示的是“GPU驱动支持的最适配版本”：它来自你的NVIDIA显卡驱动，告诉你：“我的驱动很强大，我最适配CUDA 12.4的程序！”

  • nvcc -V 显示的是“当前正在使用的开发工具包版本”：它来自你安装的CUDA Toolkit，告诉你：“我现在这个编译器是CUDA 11.8版本的。”

显卡GPU的利用率

1、A100显卡在windows系统的任务管理器中怎么看不到显卡GPU的利用率？

  • 推荐使用使用 nvidia-smi 命令，详细操作可参考：Windows Power Shell 查看GPU利用率

  • 原因是：A100是“计算卡”，不是“游戏卡”
    A100是NVIDIA专为数据中心和深度学习打造的专业计算卡，它的核心任务是搞AI训练、科学计算这类“高强度的脑力活”。它不像我们熟悉的RTX系列游戏显卡那样，主要工作是处理复杂的图形渲染和画面输出。打个比方，A100更像是一个专注于计算的“数学家”，而任务管理器这个“工具”默认是设计来观察“画家”（游戏卡）的工作状态的。

云主机 vs. 云容器——如何选择你的GPU计算资源？

两者均提供高性能GPU算力，但在使用体验上各有侧重：
1. 操作系统与交互

  • 云主机： 支持Windows、Ubuntu、CentOS。其中Windows和Ubuntu支持远程桌面操作，适合需要图形界面进行开发或设计的用户。

  • 云容器： 支持Ubuntu，提供命令行操作（SSH）和Jupyter Lab交互，更适合习惯命令行、追求轻量化开发的算法工程师。

2. 模型版本支持

  • 云主机： 环境相对固定，模型版本较为固化，保障了环境的长期稳定性。

  • 云容器： 灵活性更高，支持多种框架和丰富的版本迭代，方便用户快速尝鲜和切换。

3. 计费模式

  • 云主机： 支持通过【晨涧云mornai.cn】按天/按周/按月进行租赁。

  • 云容器： 除了云主机的计费模式，还支持通过【晨涧云mornai.cn】进行小时级按需付费，随开随停，成本更可控。