打印
[开源硬件]

AMEYA360行业资讯:高性能网络也是生成式AI的硬需求

[复制链接]
313|0
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
Ameya360皇华|  楼主 | 2023-3-13 13:43 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
  2022年下半年,服务器市场受到了经济下行的波及,也开始放慢了增长速率。不少人认为进入2023年后,数据中心这几年享受的红利期也即将迎来终结。但随着ChatGPT及同类型应用的风靡,服务器市场再度激活了新一轮的军备竞赛。

  直接受益者自然是与算力挂钩最为紧密的GPU厂商,无论是英伟达还是AMD,从开年以来股价就经历了一轮猛涨。CPU、AI加速器、FPGA厂商也顺势得利。不过要说在云服务厂商纷纷疯狂下单下,还有哪些硬件厂商从中分了一杯羹,那肯定少不了网络芯片厂商。

  高性能网络也是生成式AI的硬需求

  在Meta、谷歌、亚马逊这些Hyperscaler厂商的眼里,他们已经明白ChatGPT这类生成式AI并非昙花一现,而是可以投入到现有产品中去并产生附加价值的爆款应用。不过在他们现如今的AI集群中,不少都是和传统的x86 CPU集群独立的,所以他们要想建立新的互联交换网络满足需求,就必须要购置新的基础设施硬件。

  所以搭建高性能数据中心网络就成了他们发力的重点之一,需求指标包括无损耗、低时延和高扩展性等。像亚马逊、谷歌这样已经开始自研高速网络芯片的大厂还好,而没有这方面技术积累的云服务厂商和企业就只能去购买第三方方案,诸如大带宽交换机/路由器、DPU等。

  虽然其中一部分营收来自无线消费终端,但这样的成绩还是可以看出在服务器终端市场,网络芯片的需求剧增,致使订单飞涨。博通表示,在2022年内,单是用于AI的以太网交换机产品营收就超过2亿美元,而他们预计在2023年这个数值将达到8亿美元,可见博通的Tomahawk以太网交换机芯片卖得有多好。

  与此同时,博通用于计算卸载的产品,也因为生成式AI的爆火而大卖,例如Stingray系列SmartNIC。博通去年在该类业务上的营收已经超过20亿美元,且今年的预计营收将超过30亿美元。另外就是无损数据中心以太网架构,博通也像华为等厂商一样,开始在新一代无损低时延的以太网架构上加大投入,且对数据与计算密集型的AI负载进行了优化设计。

  相对其他服务器硬件产品来说,网络芯片的市场韧性确实要更高一些,而且总能顺应局势迎来一波增长。加之如今的以太网交换机芯片、SmartNIC和DPU都处于飞速创新的阶段,相信即便在AI计算量逐年倍增的情况下,数据中心网络也不会出现类似其他硬件一样的性能瓶颈。

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

930

主题

940

帖子

13

粉丝