英伟达的两张王牌:CUDA + NVLink
CUDA
CUDA,即计算统一设备架构(Compute Unified Device Architecture),是英伟达推出的一种并行计算平台和编程模型。它使得开发者能够利用GPU的强大计算能力,来加速各种科学计算、工程模拟、数据分析等任务。在传统的计算模式中,CPU是处理复杂逻辑和顺序任务的主力,而GPU则擅长处理大规模的并行计算任务。CUDA的出现,极大地简化了在GPU上进行编程的复杂性,使得开发者能够更加高效地利用GPU资源,实现计算性能的飞跃。
一般来说,AI公司,软件 vs 硬件的投入 = 5:1。CUDA的存在,使得软件工程师对英伟达形成强烈的依赖,英伟达靠1份销售,锁定了客户6份资产。
NVLink
英伟达的NVLink是一种高速GPU互连技术,由英伟达公司开发并推出,旨在解决多GPU系统中GPU之间的高速数据传输和协同工作问题。
高带宽:NVLink技术能够提供极高的数据传输带宽,从早期的版本到最新的第四代,带宽不断提升。例如,第四代NVLink技术可为多GPU系统配置提供高于以往1.5倍的带宽,单个NVIDIA H100 Tensor Core GPU支持多达18个NVLink连接,总带宽高达900 GB/s,是PCIe 5.0带宽的7倍。
低延迟:通过优化传输协议和采用高速串行接口技术,NVLink有效地降低了通信延迟,支持处理器和加速器之间的原子操作,对共享数据进行快速同步和高频率更新。
扩展性强:NVLink技术可以轻松地扩展到更大的规模,适用于各种不同的应用场景,如高性能计算(HPC)、人工智能(AI)、游戏开发、云计算和数据中心等。
能效比高:借助先进的封装技术,NVLink-C2C互连链路的能效比传统PCIe Gen 5高出25倍,面积效率高出90倍。
AI的算力需求,未来主要在推理,而推理对NVLink的需求与日俱增。
CUDA & NVLink的意义
1、通过NVLink,英伟达从芯片公司转型为AI算力集群系统解决方案供应商。
2、通过CUDA,英伟达成纯硬件公司,转型为软硬件一体化。
3、CUDA和NVLink,分别代表软、硬件生态。在IT世界里,生态是最宽的护城河。
对A股的意义
鉴于英伟达的核心竞争力,始终围绕CUDA和NVLink而构建,A股里面,谁是CUDA和NVLink生态链的核心伙伴,谁能够分享到更多的羹。
非CUDA和NVLink体系,就是一个传统的供应商,只能分享AI行业β的均值。