📰 💻在多年生产既能训练人工智能模型又能处理推理工作的芯片之后,谷歌将这些任务分离到不同的处理器中,这是其最新一次在人工智能硬件领域向英伟达发起的挑战。 📢谷歌
- 序号:071
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
📰
💻在多年生产既能训练人工智能模型又能处理推理工作的芯片之后,谷歌将这些任务分离到不同的处理器中,这是其最新一次在人工智能硬件领域向英伟达发起的挑战。 📢谷歌周三表示,这一变革将应用于其第八代张量处理单元(TPU)。两款芯片均将于今年晚些时候上市。 💬“随着人工智能代理的兴起,我们认为社区将从分别针对训练和服务需求进行专门优化的芯片中受益,” 谷歌高级副总裁兼人工智能与基础设施首席技术官阿明・瓦赫达特在一篇博客文章中表示。 📊今年 3 月,英伟达宣传了即将推出的硅片,得益于其以 200 亿美元收购芯片初创公司 Groq 所获得的技术,这些硅片能够使模型快速响应用户的问题。谷歌是英伟达的大客户,但也为使用其云服务的公司提供 TPU 作为替代方案。 🌐全球大多数顶尖科技公司都在推进用于人工智能的定制半导体开发,以最大化效率并针对特定用例进行构建。苹果多年来一直在其自研的 iPhone 芯片中集成神经引擎人工智能组件。微软于今年一月发布了第二代人工智能芯片。上周,Meta 表示正与博通合作开发多款人工智能处理器。 💡谷歌是这一趋势的先行者。该公司于 2015 年开始使用其自行设计的处理器来运行人工智能模型,并于 2018 年起向云端客户出租这些处理器。亚马逊云服务(Amazon Web Services)在 2018 年推出了用于处理人工智能请求的 Inferentia 芯片,并于 2020 年发布了用于训练人工智能模型的 Trainium 处理器。 📈达维森(DA Davidson)分析师在今年九月估计,TPU 业务加上谷歌 DeepMind 人工智能团队,估值约为。 ⚠️没有任何一家科技巨头能够取代英伟达,谷歌甚至没有将其新芯片的性能与这位人工智能芯片领导者进行比较。谷歌确实表示,这款训练芯片在价格相同的情况下,性能是去年 11 月发布的第七代 Ironwood TPU 的,而推理处理器的性能则提升了。 💻英伟达表示,其即将推出的 Groq 3 LPU 硬件将利用大量静态随机存取存储器(SRAM),这种存储器也被本月早些时候提交上市申请的人工智能芯片制造商 Cerebras 所使用;谷歌新款名为 TPU 8i 的推理芯片同样依赖 SRAM。每颗芯片包含,是 Ironwood 的三倍。 💬谷歌母公司 Alphabet 的首席执行官桑达尔・皮查伊在一篇博文中写道,该架构旨在 “以具有成本效益的方式并发运行数百万个智能体,提供所需的大规模吞吐量和低延迟”。 📈谷歌人工智能芯片的采用率正在攀升。谷歌表示,城堡证券(Citadel Securities)已构建利用谷歌 TPU 的量化研究软件,而美国能源部旗下的全部 17 个国家实验室均在使用基于该芯片打造的 AI 联合科学家软件。此外,Anthropic 已承诺将使用价值数吉瓦的谷歌 TPU。
总体总结
主题正文
- 💻在多年生产既能训练人工智能模型又能处理推理工作的芯片之后,谷歌将这些任务分离到不同的处理器中,这是其最新一次在人工智能硬件领域向英伟达发起的挑战。
- 💬“随着人工智能代理的兴起,我们认为社区将从分别针对训练和服务需求进行专门优化的芯片中受益,” 谷歌高级副总裁兼人工智能与基础设施首席技术官阿明・瓦赫达特在一篇博客文章中表示。
- 📊今年 3 月,英伟达宣传了即将推出的硅片,得益于其以 200 亿美元收购芯片初创公司 Groq 所获得的技术,这些硅片能够使模型快速响应用户的问题。
- 亚马逊云服务(Amazon Web Services)在 2018 年推出了用于处理人工智能请求的 Inferentia 芯片,并于 2020 年发布了用于训练人工智能模型的 Trainium 处理器。
- 谷歌确实表示,这款训练芯片在价格相同的情况下,性能是去年 11 月发布的第七代 Ironwood TPU 的,而推理处理器的性能则提升了。
- 💻英伟达表示,其即将推出的 Groq 3 LPU 硬件将利用大量静态随机存取存储器(SRAM),这种存储器也被本月早些时候提交上市申请的人工智能芯片制造商 Cerebras 所使用;
- 💬谷歌母公司 Alphabet 的首席执行官桑达尔・皮查伊在一篇博文中写道,该架构旨在 “以具有成本效益的方式并发运行数百万个智能体,提供所需的大规模吞吐量和低延迟”。
- 谷歌表示,城堡证券(Citadel Securities)已构建利用谷歌 TPU 的量化研究软件,而美国能源部旗下的全部 17 个国家实验室均在使用基于该芯片打造的 AI 联合科学家软件。