滚动新闻

Meta宣布AI训练与推理芯片计划 首款客制化芯片问世


  脸书母公司Meta Platforms周四公开旗下资料中心项目支持人工智能工作的细节,其中提到已打造一款定制芯片简称「MTIA」,用于加快生成式 AI 模型的训练。 这是Meta首次推出AI定制芯片,该公司表示MTIA是加快AI训练和推理工作的芯片「家族」的一份子。

  MTIA 全称为 Meta 训练和推理加速器。 所谓推理是指运作经过训练的模型。 MTIA 是一种定制芯片,也就是将不同电路整合在一块板上的芯片,可以将它进行编程,执行一项或多项任务。

  Meta称,2020年设计第一代MTIA芯片,那是同名MTIA项目的部分工作。 打造第一代芯片的目的是提高推荐模型的效率,那些模型服务于广告和其他新闻推送内容。 第一代MTIA可以将内部128MB的内存扩展到高达128GB。 在 Meta 设计的基准测试中,它处理了低等和中等复杂度的 AI 模型,效率比 GPU 高。

  Meta 的软件工程师 Joel Cohurn 介绍新芯片时说,Meta 最初用图形处理器执行推理任务,发现 GPU 不太适合这种工作。 用GPU固然可以大幅优化软件,但对真实模型的效率很低,现实配置时难度大、成本高,所以Meta需要MTIA。

  今年 ChatGPT 掀起 AI 的热潮后,Meta 正在努力追赶其他硅谷巨头加速开发 AI 功能的脚步。

  2月Meta推出针对研究社区的大型语言模型LLaMA,不同于ChatGPT和必应这类聊天机器人,它是开源的「研究工具」,可以在非商业许可下提供给政府、社区和学术界的研究人员和实体工作者。 当月有报导指出,Meta 将 AI 率先用于广告功能,推出名为 Advantage + 的广告产品,针对不同的用户,让 AI 根据算法自动生成广告。

  上月初传出Meta年底前推出AI广告工具的消息。 Meta 技术官 Andrew Bosworth 当时说,Meta 将推出生成广告图像的 AI 工具,帮助公司针对不同的受众制作不同的图像。

  上月末Meta公布优于预期的第一季度业绩,并承诺要对火爆的AI领域加大押注。 Meta 首席执行官扎克伯格评价第一季度业绩时表示,AI推动应用程序和业务取得良好成果,还在业绩电话会上说,对AI和元宇宙要两手抓。

最新