英伟达H200芯片首批抵华，多数将在境外保留

近日，美国政府批准英伟达向中国市场出口其新一代人工智能芯片H200。美国商务部不仅负责审核和安全检查，还会对相关交易收取约25%的费用。此外，还要求接收方必须具备完善的安全防护措施，并限制中国市场所占芯片总量不得超过美国市场客户芯片的50%。尽管美国商务部已经放宽了出口许可，但由于诸多原因，目前尚未实现大规模出货。根据TomsHardware的报道，有消息人士透露，近年来国内已有客户在过去几周内接收约1万块H200加速卡，标志着H200正式进入中国大陆市场。据说国内购入H200的客户大概在10家左右，其中联想作为国内分销商最近通知订单已经恢复。此外，国内监管机构建议大部分购买的H200不要直接进入中国大陆，而是保留在香港。不过，香港在大规模建设数据中心方面面临一定困难，例如供电问题给电网造成较大压力，以及短时间内难以找到足够多合适的建设用地。英伟达在2023年11月推出的H200芯片基于Hopper架构，是首款采用八层堆叠HBM3E的GPU，存储容量达到141GB，运行速度约为6.25 Gbps，每个GPU的六个HBM3E堆栈总带宽达到了4.8 TB/s。相比之下，上一代的H100配备了80GB的HBM3，总带宽为3.35 TB/s，H200在技术上有了显著提升。同样基于Hopper架构，H200在性能上相较于H100进一步提升，尤其是某些应用场景能够受益于更大的内存配置。而H20则是H100的降级版本，相比于完全配置的H100，其核心数量减少了41%，性能大约下降了30%。H200将在英伟达的数据中心产品线中占据重要位置，预计将主导2024年下半年的出货，同时持续到2025年初。