GPUDirect Storage 路径核对：GPU、NVMe 与 PCIe 拓扑的责任边界
围绕GPUDirect Storage 路径核对，从GPU、NVMe、PCIe 拓扑和存储软件版本、端到端兼容、部署验证和风险边界出发，帮助技术与采购团队形成可核对的方案与部署结论。
阅读全文
GPU & Systems
GPU 与整机
面向技术、采购和项目团队解析 NVIDIA GPU、GPU 服务器、Jetson、AI 工作站与整机平台的定位、规格边界、部署条件和适用场景。
栏目文章
NVIDIA GPU、GPU 服务器、Jetson、工作站与整机产品解析
GPU 服务器的 NVLink 与 NVSwitch 拓扑怎么核对：卡间路径、故障域与 NCCL 基线
说明 GPU 服务器如何核对 NVLink、NVSwitch、GPU 编号、卡间路径和 NCCL 基线，并区分单机互联与跨节点网络问题。
阅读全文
AI服务器存储配平：GPU 吞吐、数据预取与本地 NVMe 的关系
围绕AI服务器存储配平，从GPU 吞吐、数据预取、本地 NVMe 和共享存储、端到端兼容、部署验证和风险边界出发，帮助技术与采购团队形成可核对的方案与部署结论。
阅读全文GPU服务器 BIOS 固件兼容：版本基线、升级顺序与回滚点
围绕GPU服务器 BIOS 固件兼容，从服务器 BIOS、GPU 固件、网卡固件和回滚点、端到端兼容、部署验证和风险边界出发，帮助技术与采购团队形成可核对的采购与选型结论。
阅读全文在线推理 GPU 容量估算：批处理、尾延迟与显存占用的联合方法
围绕在线推理 GPU 容量估算，从请求并发、批处理、尾延迟和显存占用、端到端兼容、部署验证和风险边界出发，帮助技术与采购团队形成可核对的采购与选型结论。
阅读全文
GPU 服务器容器环境怎么定版本基线：驱动、CUDA 与 NVIDIA Container Toolkit 的责任边界
说明 GPU 服务器容器环境如何划分宿主机驱动、CUDA 运行时、NVIDIA Container Toolkit、镜像和编排平台的版本责任。
阅读全文常见问题
围绕训练、推理、服务器形态与边缘部署，补充常见选型判断。
训练 GPU 和推理 GPU 能否直接按算力高低选择？
不能。至少需要同时比较业务精度、显存容量与带宽、卡间通信、时延或吞吐目标、服务器供电散热以及驱动和框架支持，峰值算力只是一项参考。
MGX 是一种 GPU 接口或单一服务器型号吗？
不是。MGX 是模块化服务器参考架构，具体 GPU、CPU、网络、存储、供电和散热能力取决于服务器厂商最终产品及其认证配置。
Jetson 可以直接替代 GPU 服务器吗？
通常不能直接替代。Jetson 面向边缘推理和设备侧处理，GPU 服务器面向集中训练、共享推理和规模化资源管理，两者更适合形成训练中心与边缘部署的协同关系。
H200 是否在所有训练和推理任务中都比 H100 更合适？
不是。H200 更大的显存和更高的显存带宽对容量或带宽受限任务更有价值；计算、网络、存储或软件先成为瓶颈时，应通过代表性作业测试后再决定升级范围。
网卡和 GPU 在同一个 NUMA 节点就一定能获得最优 GPUDirect RDMA 性能吗？
不一定。同一 NUMA 只是重要条件之一，还要检查 PCIe 根端口、交换路径、链路宽度、IOMMU/ACS、驱动支持、设备绑定和网络侧配置。
开启 MIG 后是否应该把所有 GPU 都切成最小实例？
不应该。实例颗粒度应由模型显存、计算需求、并发和变化频率决定，并为框架开销和突发留余量；部分任务仍可能需要大实例或整卡。
L40S 可以同时作为 AI 推理卡和图形工作站 GPU 吗？
它具备覆盖 AI、图形和视频的产品能力，但具体服务器、驱动、应用和授权路径不同。应按目标业务分别验证，不把一种场景的可用性直接外推到另一种。
HGX 和 MGX 是可以直接采购并上架的统一服务器型号吗？
不是统一整机型号。它们是 NVIDIA 平台或参考架构，通常由服务器厂商集成为具体产品；采购和兼容性结论必须绑定最终整机料号。
机柜总功率大于 GPU 服务器额定功率就可以直接上架吗？
不能。还要核对电压与插头、A/B 路容量、单路故障、PDU、电源线、局部散热、机柜尺寸承重、维护空间和网络出线。
GPU 利用率长期偏低是否可以直接判断 GPU 性能不足？
不能。还要结合作业队列、CPU、存储、网络、通信占比、温度和降频原因判断；利用率低也可能是数据等待、网络拥塞或调度配置造成。