Meta 推出最新定制人工智能芯片

今天，在英特尔宣布其最新人工智能加速器硬件的第二天，Meta公布了其芯片开发工作的最新成果。该芯片被称为“下一代”元训练和推理加速器 (MTIA)，是去年 MTIA v1 的后继者，它运行的模型包括在 Meta 的资产（例如 Facebook）上排名和推荐展示广告。

与基于 7nm 工艺构建的 MTIA v1 相比，下一代 MTIA 采用 5nm 工艺。 （在芯片制造中，“工艺”是指可以在芯片上构建的最小组件的尺寸。）下一代 MTIA 是一种物理上更大的设计，比其前身配备了更多的处理核心。虽然它消耗更多的功率（90W 与 25W），但它还拥有更多的内部存储器（128MB 与 64MB），并且以更高的平均时钟速度运行（从 800MHz 上升到 1.35GHz）。

Meta 表示，下一代 MTIA 目前已在其 16 个数据中心区域投入使用，与 MTIA v1 相比，整体性能提高了 3 倍。如果“3x”的说法听起来有点模糊，那么你没有错——我们也这么认为。但 Meta 仅自愿表示该数字来自测试两种芯片的“四个关键模型”的性能。

“因为我们控制整个堆栈，所以与商用 GPU 相比，我们可以实现更高的效率，”Meta 在与 TechCrunch 分享的博客文章中写道。

Meta 的硬件展示——在该公司正在进行的各种生成式人工智能计划的新闻发布会后仅 24 小时——就进行了不同寻常的展示，原因有几个。

首先，Meta 在博客文章中透露，目前它还没有使用下一代 MTIA 来处理生成式 AI 训练工作负载，尽管该公司声称“正在进行多个项目”来探索这一点。第二，Meta 承认下一代 MTIA 不会取代用于运行或训练模型的 GPU，而是对其进行补充。

从字里行间看，Meta 正在缓慢地前进——也许比它想要的还要慢。

Meta 的人工智能团队几乎肯定面临着削减成本的压力。到 2024 年底，该公司预计将在 GPU 上花费180亿美元，用于训练和运行生成式 AI 模型，而且——尖端生成式模型的训练成本高达数千万美元——内部硬件提供了有吸引力的替代方案。

我怀疑，虽然 Meta 的硬件表现不佳，但竞争对手却领先，这让 Meta 的领导层大为震惊。

谷歌本周向谷歌云客户推出了用于训练人工智能模型的第五代定制芯片TPU v5p ，并推出了首款用于运行模型的专用芯片Axion。亚马逊拥有多个 定制 人工智能芯片系列。微软去年也加入了Azure Maia AI 加速器和 Azure Cobalt 100 CPU 的竞争。

Meta在博客文章中表示，下一代 MTIA“从第一个芯片到生产模型”只花了不到九个月的时间，公平地说，这比谷歌 TPU 之间的典型窗口更短。但如果 Meta 希望实现一定程度的独立于第三方 GPU 并与其激烈的竞争相匹配，它还有很多工作要做。

信息来源：TechCrunch