英伟达的两张王牌:CUDA + NVLink

来源:雪球App,作者: 闷得而蜜,(https://xueqiu.com/5672579962/302900503)

CUDA

CUDA,即计算统一设备架构(Compute Unified Device Architecture),是英伟达推出的一种并行计算平台和编程模型。它使得开发者能够利用GPU的强大计算能力,来加速各种科学计算、工程模拟、数据分析等任务。在传统的计算模式中,CPU是处理复杂逻辑和顺序任务的主力,而GPU则擅长处理大规模的并行计算任务。CUDA的出现,极大地简化了在GPU上进行编程的复杂性,使得开发者能够更加高效地利用GPU资源,实现计算性能的飞跃。

一般来说,AI公司,软件 vs 硬件的投入 = 5:1。CUDA的存在,使得软件工程师对英伟达形成强烈的依赖,英伟达靠1份销售,锁定了客户6份资产。

NVLink

英伟达的NVLink是一种高速GPU互连技术,由英伟达公司开发并推出,旨在解决多GPU系统中GPU之间的高速数据传输和协同工作问题。

高带宽:NVLink技术能够提供极高的数据传输带宽,从早期的版本到最新的第四代,带宽不断提升。例如,第四代NVLink技术可为多GPU系统配置提供高于以往1.5倍的带宽,单个NVIDIA H100 Tensor Core GPU支持多达18个NVLink连接,总带宽高达900 GB/s,是PCIe 5.0带宽的7倍。

低延迟:通过优化传输协议和采用高速串行接口技术,NVLink有效地降低了通信延迟,支持处理器和加速器之间的原子操作,对共享数据进行快速同步和高频率更新。

扩展性强:NVLink技术可以轻松地扩展到更大的规模,适用于各种不同的应用场景,如高性能计算(HPC)、人工智能(AI)、游戏开发、云计算和数据中心等。

能效比高:借助先进的封装技术,NVLink-C2C互连链路的能效比传统PCIe Gen 5高出25倍,面积效率高出90倍。

AI的算力需求,未来主要在推理,而推理对NVLink的需求与日俱增。

CUDA & NVLink的意义

1、通过NVLink,英伟达从芯片公司转型为AI算力集群系统解决方案供应商。

2、通过CUDA,英伟达成纯硬件公司,转型为软硬件一体化。

3、CUDA和NVLink,分别代表软、硬件生态。在IT世界里,生态是最宽的护城河。

对A股的意义

鉴于英伟达的核心竞争力,始终围绕CUDA和NVLink而构建,A股里面,谁是CUDA和NVLink生态链的核心伙伴,谁能够分享到更多的羹。

非CUDA和NVLink体系,就是一个传统的供应商,只能分享AI行业β的均值。

$英伟达(NVDA)$

来源:xueqiu日期:2024-08-29