今天,在加州圣何塞的赛灵思开发者论坛上,我们的CEO Victor Peng与AMD CTO Mark Papermaster共同迎来了“吉尼斯”。不要误会,这不是装在瓶里的啤酒,而是写在本上的世界纪录。
AMD和赛灵思披露,二者将AMD霄龙处理器和全新赛灵思Alveo加速卡结合,以实现高性能实时AI推理。同时,他们揭晓了一项世界纪录:每秒30,000张图片的推理吞吐量。
这个令人惊艳的系统将出现在今天论坛的Alveo生态系统阵营中,它采用了具有行业领先PCIe连接性的2个AMD霄龙7551处理器,以及8个全新发布的赛灵思Alveo U250加速卡。推理过程由赛灵思机器学习套件驱动,该套件让开发者能优化部署加速的推理,并支持包括TensorFlow在内的多种机器学习架构。此次测试结果在GoogLeNet上得出(在Int8精度下运行了1个数据集),这是目前广泛使用的卷积神经网络(缩写为CNN或ConvNet)。
AMD和赛灵思在计算演进和异构系统架构上怀有共同的愿景,并且有长期的技术合作。双方针对AMD霄龙处理器和赛灵思FPGA共同优化驱动,调试互操作性。同时,双方也与行业内的其它合作伙伴在加速器的缓存一致性和互连方面进行合作(CCIX联盟专注于多处理器间的缓存一致性和存储共享)。
AMD霄龙处理器是加速处理人工智能和高性能计算工作负载的完美平台。霄龙处理器拥有32核心、64线程、8个存储通道、每插槽高达2TB的存储,128个PCIe通道,以及业内首创的x86服务器底层硬件级的嵌入式数据安全性,出色的存储能力、带宽和多核心能有效地处理在AI和高性能计算中常见的存储密集型工作负载。有了霄龙处理器,客户能更快速地收集和分析大量的数据集,帮助他们显著加快复杂问题的处理速度。
赛灵思和AMD十分看好双方技术合作的未来。双方的产品路线图相互匹配,高性能的AMD霄龙处理器及图形处理器与赛灵思加速平台,包括Alveo加速卡和即将到来的Versal产品组合能完美配合。
因此,让我们举起吉尼斯啤酒,祝福AI推理和异构计算平台创新的美好未来。
(全面披露原则——此项纪录还未被吉尼斯官方认可,但我们希望可以马上去一趟都柏林!)