3倍谷歌速度!硅谷初创公司Cerebras发布史上最快AI计算机

发布于: 雪球转发:0回复:0喜欢:0

AI在计算机算法上争先恐后地角逐着,但都面对同一个瓶颈:培训模型需要极长时间。谷歌Facebook、OpenAI、腾讯百度等许多其他科技巨头都认为,如今人工智能的基本限制是训练模型需要很长时间。因此,缩短训练时间等于消除整个行业进步的主要瓶颈。

而就在昨日(当地时间2019年11月19日),美国科罗拉多计算机展览会SC19上,Cerebras Systems推出现有最快的人工智能计算机系统CS-1,并宣布多学科科学和工程研究中心Argonne是第一个部署Cerebras CS-1系统的国家实验室。相较于谷歌的TPU v3,CS-1功耗是它的五分之一,体积却只有它的三十分之一,而速度是整个TPU v3的三倍。

图丨来自Argonne国家实验室

 

Cerebras与WSE

Cerebras Systems是一家初创仅3年的致力于加速人工智能计算的硅谷芯片公司,团队由顶尖计算机架构师、计算机科学家和深度学习研究人员组成,目标是构建一种新的计算机系统,可以将人工智能加速到超越现有技术数量级水准。当外界不断追求芯片小型化、低功耗时,这颗芯片企业反其道而行之,采取了一种新颖的方法,把所有的数据保存在一个巨大的芯片上,让系统就可以更快地运行,该公司于今年8月推出了有史以来制造的最大的芯片-晶圆规模引擎(WSE)。WSE将逻辑运算、通讯和存储器集成到单个硅片上,是一种专门用于深度学习的芯片。它创下了4项世界纪录:晶体管数量最多(1.2万亿个晶体管)、芯片面积最大(46,225平方毫米)、片上缓存最大(18千兆字节)、运算核心最多(40万个)。

在Cerebras WSE介绍的白皮书中,有这么一句话——“通过加速人工智能计算,WSE清除了阻碍人工智能进步的最大障碍——时间。将训练时间从几个月缩减为几分钟,从几周减少到几秒。让深度学习实践者能更快地验证自己的假设,从而不用去担心一些体系机构导致无法测试或者太大风险。WSE降低了好奇心的成本,加速了人工智能新思想和新技术的到来。”

Cerebras公司创始人兼首席执行官安德鲁·费尔德曼(Fieldman)表示:“Cerebras WSE”专为人工智能设计而设计,其中包含了不少基础创新,解决了限制芯片尺寸的长达数十年的技术挑战,如芯片良率、功率传送、封装等,推动了最先进技术的发展。每个架构决策都是为了优化AI工作性能。结果是,Cerebras WSE根据工作量提供了数百或数千倍的现有解决方案的性能,只需很小的功耗和空间。” 

仅有优异的处理器性能还远不足够。像WSE这样的高级处理器必须与专用的软件相结合才能实现破纪录的性能。因此,Cerebras专门为这一巨型芯片开发了CS-1内置系统和软件平台,各方面都为加速人工智能计算而专门设计。通过CS-1和配套的系统软件, AI需要几个月才能完成的工作现在可以在几分钟内完成,而需要几个星期完成的工作可以在几秒钟内迅速完成。

图丨Cerebras CS-1,图片来源:Cerebras

CS-1是一个“完整解决方案”产品,旨在添加到数据中心以处理AI工作流程。它包括WSE(即实际处理核心)、运行处理器和将处理器集成到数据中心所需的所有冷却、网络、存储和其他设备。它有26.25英寸高(15个机架单元),包括400,000个处理核心、18 GB的片上内存、每秒9 PB的片上内存带宽、12 GB的以太网连接、用于将数据移入和移出CS-1系统,并且仅消耗20千瓦的电力。Feldman把CS-1电脑形容为容纳WSE赛车引擎的赛车底盘。他称,CS-1比占据多个机架的大型竞争系统更强大,同时由于巧妙的热提取系统,消耗的电力也更少。巨大的大脑芯片后面有一块铜色的块,称为冷板,它将热量从芯片中传导出去。那个冷盘是通过流过该盘的冷水管道冷却的。CS-1不仅从根本上减少了训练时间,而且还为降低延迟设立了新的标杆。对于深度神经网络,单一图像的分类可以在微秒内完成,比其他解决方案快几千倍。

“这是一台由40万个专用人工智能处理器组成的人工智能系统。”Feldman说。

 

利用CS-1解决深度学习计算和科学问题

CS-1使人工智能从业者能够回答更多的问题,并在更少的时间内探索更多的想法。CS-1为AI计算提供了创纪录的性能和规模,其跨国家实验室的部署使世界上最大的超级计算机站点能够实现现有AI加速器从100到1000倍的改进。通过将超级计算能力与CS-1的AI处理能力相结合,Argonne现在可以加快深度学习模型的研究和开发,以解决现有系统无法解决的科学问题。早在2个月前(2019年9月17日),Cerebras Systems已经与美国能源部(DOE)签署了合作协议,以推进其实验室进行基础科学、应用科学和应用医学的大规模深度学习实验。

Argonne实验室的计算、环境和生命科学副实验室主任Rick Stevens表示:“我们与Cerebras合作已有两年多了,我们非常高兴将新的AI系统引入Argonne。通过部署CS-1,我们极大地缩短了神经网络的训练时间,使我们的研究人员能够大大提高工作效率,从而在癌症、颅脑外伤以及当今社会重要的许多其他领域的深度学习研究中取得重大进展。”

人工智能正在低调但逐渐渗透式地触及我们生活的各个方面。从推荐音乐或衣服、为信用卡保驾护航到协助导航,人工智能已经无所不在。在科学和健康领域,人工智能正被用于帮助研究人员更好地理解从分子动力学到宇宙学的广泛主题,并帮助医生更好地诊断和治疗疾病。

Fieldman说:“我们很自豪能够与Argonne国家实验室合作,并利用CS-1的巨大计算能力来帮助解决世界上的许多科学问题。在Argonne,Cerebras CS-1正被用于更好地理解从癌症药物相互作用到黑洞性质的一切。看到领先的研究人员使用CS-1解决医疗保健和基础科学中的问题是非常有意义的,这也是我们发明技术的原因。”

图片来源:Cerebras

CS-1有望攻克癌症难题

Argonne部署CS-1的第一个应用领域是癌症药物反应预测,该项目是美国能源部和美国国家癌症研究所合作的一部分,旨在利用先进的计算和人工智能解决癌症研究中的重大挑战。Cerebras CS-1的加入支持扩展Argonne在高级计算领域的主要计划,该计划还利用了预计在2021年实现的Aurora exascale系统的人工智能能力。

在Argonne实验室,计算机仪表盘显示人工智能正在工作。在各种大小的矩形中,就像一幅红色的蒙德里安油画,数字热图描绘了神经网络在思考药物时的活动。在几个小时的工作结束时,神经网络将对各种药物和肿瘤细胞之间的相关性进行评估,这可能会在某一天产生癌症的新疗法。

大多数药物研究都在寻找一小部分已知药物和一系列细胞之间的相关性,以确定该药物是否会减缓肿瘤生长。Argonne负责计算、环境和生命科学的副实验室主任Stevens和他的团队可以模拟所有药物分子,以寻找他们从未想过检查的疾病相关性。科学家们希望所揭示的是他们还未能预料到的联系。这使人工智能进入了一个未知的时代。

Argonne部署CS-1是DOE和Cerebras系统之间多实验室合作的第一部分。Cerebras还与美国能源部的劳伦斯·利弗莫尔国家实验室合作,加快其人工智能计划,并利用CS-1的机器学习能力进一步增强其模拟实力。

能源部负责人工智能与技术的副副部长Dimitri Kusnezov博士说:“在能源部,我们认为公私合作是加快美国人工智能研究的重要组成部分,我们期待着与Cerebras的长期和富有成效的合作伙伴关系,这将有助于定义下一代人工智能技术,并改变能源部的运营、业务和任务格局。”

对Feldman来说,这一切都证明了“让事情变得更快可以让你做以前做不到的事情,突然之间你得到了你以前没有获得的洞察力。”他把这个比喻为发电机的兴起和工厂的电气化。一百年前,发电机只是改进了现有的东西,如皮带驱动的机器。几十年过去了,由于发电机的缘故,工厂完全围绕自动化过程控制进行了重组。制造业的性质发生了变化。”

该公司的下一个阶段是实现规模化,并确保其芯片的稳定交付。该公司将芯片封装为一个完整的系统“设备”,其中还包括其专有的冷却技术。

CS-1可能会加速AI研究的速度,在诸如疾病研究的实验方式上带来变革,以及AI涉及的其他各个领域的转变,不过其对人类生活带来的影响目前很难评估。

信息出处:

网页链接

网页链接

网页链接

网页链接  

图片来源自网络

星标置顶我,精彩不错过!

本文完