Nvidia的H100GPU是这家科技巨头近年来推出的最受欢迎的产品之一,尽管存在一些明显的定价问题和订单长时间延迟。

GeForceRTX4090有一个更强大的兄弟产品内存是很少有人知道的两倍

幸运的是,还有客户可能不知道的更具成本效益的替代品-即L40S系列。

这款功能强大的H100兄弟GPU提供两倍的内存,对于那些没有财力投资更昂贵产品的人来说,这是一个更便宜的选择。

与H100和A100同类产品一样,L40SGPU专为为AI时代的下一代数据中心工作负载提供支持而构建,能够应对生成式AI和LLM推理以及大量3D图形工作负载的巨大压力。

ServeTheHome成功拿到了L40S并大加赞扬,称其为H100的“迷人”且更便宜的替代品。

“L40S是完全不同的东西。Nvidia采用了基础L40,这是一种使用Nvidia最新的AdaLovelace架构的数据中心可视化GPU,并更改了调整,使其更多地针对人工智能而不是可视化进行了调整,”该出版物称。

L40S仍然拥有其前身L40的典型功能,例如光线追踪核心、DisplayPort输出和支持AV1的NVENC/NVDEC。

然而,在这种情况下,更多的功能被分配给GPU的AI部分,使其成为在预算内训练模型的强大套件。

L40S的内存容量远小于A100,这是该系列的一个显着缺点。然而,它在尺寸上的不足却在性能上得到了弥补。

GPU同时支持NvidiaTransformerEngine和FP8,这意味着它可以显着减少数据大小,并且需要更少的内存带宽。

Nvidia的指标显示,GPU提供高达1,466teraflops的张量性能,以及令人印象深刻的212teraflops的RT核心性能。

NvidiaL40S:具有成本效益的替代方案

成本自然是L40S的一个关键卖点。按照目前的价格,H100的价格约为GPU的2.6倍,使其成为一个便宜得多的选择。

可用性也是另一个显着的优势。事实证明,H100GPU自推出以来就非常受欢迎,因此很难买到。

L40S是一款比较默默无闻、不太为人所知的GPU,这意味着L40S更容易使用,无需长时间等待。