DIGIPUNK
去投稿
发表于:2024年04月13日

Meta推出新一代AI芯片MTIA v2,性能大幅提升

数智朋克
发布者:数智朋克
阅读:1 分钟
我要投稿

Meta在2023年首次推出其自研AI训练和推理芯片MTIA v1,此芯片主要面向公司旗下应用的深度学习推荐模型设计。MTIA v1的推出旨在提升Meta基础设施的计算效率,并更好地支持软件开发者构建AI模型。随后,Meta继续深化其在人工智能芯片领域的探索,最新推出的MTIA v2在多个关键性能指标上实现了质的飞跃。

MTIA v2采用台积电的5nm工艺,提供了更大的内存容量和更高的运算频率。相较于MTIA v1,v2版本的每PE缓存从128KB增加到384KB,运算频率从800MHz提高到1.35GHz。此外,MTIA v2的稠密算力比上一代提高了近3.5倍,达到708TFLOPS,稀疏算力更是提高到了近7倍。尽管MTIA v2的功耗增加到了90W,是前代的3.6倍,但考虑到性能的大幅提升,这种能耗上升仍在可接受范围内。

MTIA v2的设计专注于为排名和推荐模型提供必要的计算、内存带宽和内存容量,以确保高效率的服务。该芯片已经部署在Meta的数据中心,正在为实际的AI工作负载提供服务,并显示出对处理高复杂性模型的强大能力。与通用的商用GPU相比,MTIA可以实现更高的效率,这是因为Meta可以控制整个硬件和软件堆栈。

Meta对于其定制芯片的投资是其长期战略的一部分,旨在为独特的AI工作负载构建和扩展最强大、最高效的基础设施。公司正在设计定制芯片以结合现有基础设施及未来的硬件进展,同时扩展MTIA的应用范围,包括支持新兴的GenAI工作负载。

随着人工智能技术的迅速发展和复杂性增加,Meta预计其在AI领域的投资将在未来几年内持续增长,以支持全新的生成式人工智能产品和更高级的AI研究,推动公司的AI策略向前发展。

本文链接: https://www.shuzhipunk.com/articles/l8lfhUoeXTF
转载请注明文章出处

文章所属标签
Meta
MTIA v1
MTIA v2
人工智能