AI 已经存在了一段时间，其影响也相当巨大。生成式 AI 刚开始崭露头角，对于其
如何颠覆世界的种种预言已经迅速成为热门话题，影响之深广，令人深思。
这项技术已经对数据中心产生了重大影响。基于必须在云端训练和运行的模型的大
小，生成式 AI 的基础设施需求预计将比早期 AI 模型高出 10 到 100 倍。事实上，所有数
据中心基础设施都受到这一趋势的影响，包括电力、HVAC、网络和物理布局。数据中心
将如何扩展规模以适应呈指数级增长的生成式 AI 大型语言模型？
生成式 AI 的成功可能取决于半导体行业对以下几个方面的关注，一是先进的 AI 处
理器，二是如何存储和处理所有这些数据，最后是确保数据中心散热更佳、更高效且更安
全。
我们已经解决了这类问题，以便数据中心运营商能够为 5G、云服务和新一代的
AI/ML 应用提供支持。我们的单片机、存储器、PCIe®开关、安全解决方案和其他产品提
供了各种解决方案，以应对从连接 AI 处理卡到优化数据访问、存储、安全和保护等一系
列 AI 挑战，同时提供必要的带宽、端口密度和连接能力，从而处理不断增加的流量。
类似的挑战也适用于数据中心和本地服务器中的生成式 AI，其应对难度也进一步
放大。生成式 AI 似乎也存在一种途径，能够扩展到物联网应用中的网络边缘，如患者监
测和汽车交通违规检测。有些人认为，如果生成式 AI 产生的海量数据必须在云端而不是
在边缘处理，那么这些应用便无法取得成功。
如今的边缘 AI 解决方案可能为生成式 AI 提供了一种路线图。语音识别系统和 AI
摄像头等计算机视觉产品可在边缘提供许多优势，包括消除网络延迟和将隐私控制权交还
给用户。它们有助于降低功耗，因为只有在检测到不规则的变化后才会将视频流传输到云
端，而不是像“傻瓜”摄像头那样连续不断地传输。可以预计，未来的边缘设备也会采用
这种方案。
|
楼主
标题置顶
标题高亮
