- 低延迟网络对于更快、更高效的人工智能推理至关重要
- AMD 的 Solarflare X4 适配器将经过验证的交易技术引入实时 AI 环境
- 一致的亚微秒性能可以提高数据驱动的边缘应用的可靠性
AMD 宣布 Solarflare X4 以太网适配器最新一代超低延迟网络接口卡。
虽然这些适配器在构建时考虑了高频交易,但它们的功能意味着它们还可以在需要快速数据移动和可预测响应时间的人工智能推理工作负载中发挥作用。
低延迟对于人工智能推理越来越重要,任何延迟都会限制性能或准确性。
不间断的编程输入和输出
人工智能推理依赖于机器之间快速移动的数据,很明显,网络速度对于结果出现的速度起着关键作用。
Solarflare X4 系列基于长期服务于金融行业的技术。它包括两个主要型号:X4522(每个型号均支持高达 50GbE 的双 SFP56 端口)和 X4542(使用高达 100GbE 的双 QSFP56 端口)。
两者都具有一种称为精确调度输入输出的模式,该模式在数据包完全穿过 PCIe 总线之前开始传输数据包,从而减少处理延迟。
虽然 AMD 适配器无法匹配 400G 或 800G 网络硬件的原始速度,但它们确实具有保持亚微秒延迟和高一致性的优势。
除了作为一个有吸引力的金融系统选项之外,它们对于需要边缘实时推理的新兴人工智能工作负载也很有用。
这些适配器与AMD的Onload软件配合使用,该软件可以从CPU卸载数据移动任务,并释放处理能力用于推理任务、计算、分析和控制操作。
减少延迟的好处可以转化为在自主系统、智能制造或内容交付环境中运行的人工智能应用程序更快、更可靠的响应。
Solarflare X4 系列可能是为利基市场设计的,但针对速度和可预测性进行优化的网络硬件可以使一系列数据驱动的行业受益。
AMD 的举措可能是更具战略意义的最新版本之一,它将数十年的低延迟网络专业知识与对超高效人工智能推理不断增长的需求结合起来。
在 Google 新闻上关注 TechRadar 和 将我们添加为首选来源 在您的源中获取我们的专家新闻、评论和意见。别忘了点击关注按钮!
当然你也可以 在 TikTok 上关注 TechRadar 定期从我们这里获取新闻、评论和开箱视频的最新动态 WhatsApp 更多的。