全球最快的人工智能芯片:WSE-3 拥有高达4万亿个晶体管

Cerebras Systems 推出全球最快的人工智能芯片:WSE-3
 
拥有高达4万亿个晶体管

关键规格

  • 4万亿个晶体管
  • 900,000 AI核心900,000 AI 核心
  • 125 petaflops的AI峰值性能
  • 44GB片上SRAM44GB 片上内存
  • 5nm TSMC工艺
  • 外部内存:1.5TB、12TB或1.2PB
  • 能够训练高达24万亿参数的AI模型
  • 集群大小可达2048个CS-3系统
  • 1 天内完成训练 Llama
Cerebras CS-3超级计算机既适用于企业级需求,也适用于大规模的云计算需求。
 
在较小规模的配置中,使用四套系统就可以在一天内对70B(70亿参数)的模型进行微调。
 
而在全规模配置下,使用2048套CS-3系统,则可以在短短一天之内从头开始训练一个70B参数的Llama模型。

主要性能

  1. 巨大的晶体管数量:拥有4万亿个晶体管,这一数量远超过当前市场上任何其他AI芯片,为高性能计算提供了强大的基础。

  2. 高性能AI核心:包含900,000个专为AI优化的计算核心,这些核心专门设计用于执行深度学习和机器学习任务,提高了模型训练和推理的效率。

Support authors and subscribe to content

This is premium stuff. Subscribe to read the entire article.

Subscribe

Gain access to all our Premium contents.
More than 100+ articles.
退出移动版