最大AI芯片问世: 台积电16nm工艺和4.6万平方毫米硅

原标题:最大AI芯片问世: 台积电16nm工艺和4.6万平方毫米硅

智能计算芯世界

芯频道8月20日消息,美国独角兽创业公司Cerebras推出了史上最大尺寸的AI芯片,略大于标准iPad,号称“晶圆级引擎”(Cerebras Wafer Scale Engine,简称WSE)。该公司表示,单个芯片可以驱动复杂的人工智能(AI)系统,从无人驾驶汽车到监控软件。

Wafer-Scale Engine和目前最大的AI芯片之一的并排比较

Cerebras的芯片尺寸是Nvidia领先芯片尺寸的五十七倍,“V100”占据了当今人工智能的主导地位。拥有比芯片更多的存储器电路:18千兆字节,是Nvidia部件的3000倍。

WSE将逻辑运算、通讯和存储器集成到单个硅片上,是一种专门用于深度学习的芯片。它创下了4项世界纪录:

晶体管数量最多的运算芯片:2万亿个晶体管

芯片面积最大:46,225 mm2的硅

片上缓存最大:18 GB超快速片上存储器(SRAM)

运算核心最多:400,000个AI可编程内核

此外,该芯片还将拥有100 Petabits / s结构带宽、稀疏性的原生优化(避免乘以零),以及软件与标准AI框架(如TensorFlow和PyTorch)的兼容性。

据芯频道获悉,WSE由台积电代工,但是并没有使用当前最先进的7nm工艺,而是使用相对较老的16nm制程工艺制造的300毫米晶圆切割而成。台积电运营高级副总裁JK Wang表示:“我们对与Cerebras合作制造WSE非常满意,这是晶圆级开发的行业里程碑。”

Cerebras与台积电合作开发互连,制造和测试晶圆级引擎所需的技术

虽然WSE制造成本可能很高,但Cerebras认为片上互连比构建和连接独立的内核速度更快、成本更低。

50岁的安德鲁·费尔德曼(Andrew Feldman)是创业公司Cerebras Systems的首席执行官,双手握住它们,在它们之间支撑着一块大尺寸鼠标垫的闪亮厚板,一块精致的互连线条蚀刻在硅片上,在暗淡的荧光灯下闪烁着深沉的琥珀色。它的每一面都是8.5英寸,是世界上有史以来最大的计算机芯片。有了这样的芯片,Feldman预计人工智能将被向前大步跨越,因为它们提供了谷歌和其他人建立前所未有规模的神经网络所需的并行处理速度。

四十万台被称为“核心”的小型计算机覆盖了芯片的表面。通常,它们将被切割成单独的芯片以从圆形硅晶片产生多个成品部件。在Cerebras的案例中,整个晶圆用于制造多芯片计算机,即平板上的超级计算机。

通过构建一个非常大的芯片,Cerebras相信它可以在其中一个设备上存储和处理整个神经网络,从而无需跨多个设备和内存层扩展问题(称为模型并行的过程)。这种方法类似于在一个巨大的芯片上构建一个带有内存的整个计算机集群,与具有数百个传统加速器的服务器机架相比,片上存储器和通信速度比片外存储器快数千倍,并且将节省大量功率和费用。

这种大胆的设计必须克服重大的技术障碍,包括互连性,内存,功率,产量,封装和冷却。该公司的一项突破是用于交叉芯片和芯片内通信的“Swarm-IO”结构网格。这些连接必须穿过光刻中使用的掩模版(掩模)之间的边界并直接在硅上蚀刻。Feldman先生说,这个解决方案是基于Cerebras拥有的技术,该技术是与台积电共同开发的,用于制造和测试。

为了应对晶圆上不可避免的缺陷,Cerebras采用冗余内核和结构链路来替换坏电路,并在启动时重新连接电网。此外,没有可用的封装,例如可以安装,供电和冷却大型芯片。Cerebras必须发明定制包装技术和工具来应对这些挑战。

值得一提的是,该芯片不会单独销售,而是将被打包到Cerebras设计的计算机“设备”中。一个原因是需要一个复杂的水冷系统,这是一种灌溉网络,可以抵消以15千瓦功率运行的芯片产生的极端热量。

“你不能用设计插入任何旧戴尔服务器的芯片来做到这一点,”费尔德曼说。“如果你制造一辆法拉利发动机,那么你想建立整个法拉利,”这是他的理念。他估计他的计算机将是具有多个Nvidia芯片的服务器的150倍,功耗只是服务器机架所需物理空间的一小部分。因此,他预测,在云计算设施中运行成本高达数万美元的人工智能培训任务可能会降低一个数量级的成本。

Cerebras尚未披露更多性能数据,但Feldman承诺,一旦第一批系统在9月份发布给客户,它将会出现。Feldman断言,有些人已经收到原型并且结果具有竞争力,尽管他还没有透露客户名称。“我们将培训时间从几个月缩短到几分钟,”他说。“我们看到的改善并不是一点点好,而是很多。”

本文由芯频道整理编辑,部分资料参考自BBC NEWS、Cerebras官网。返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
免费获取
今日搜狐热点
今日推荐