HyperAccel LPU与GPU平台的效率分析
(来自HyperAccel官网)
Mobilint是韩国首家开发智能半导体边缘型神经处理单元(NPU)的公司,成立于2019年4月。成立仅一年,Mobilint参加了全球AI半导体基准“MLPerf”,并在韩国取得了最好的成绩,让其技术被世界所知,并与三星电子、英特尔、谷歌、微软、NVIDIA等合作,共同成为MLCommons(MLPerf操作社区)的创始成员。2022年12月推出首个商用NPU“ARIES”,并开发了两种搭载ARIES的产品“MLA100”和“MLX-A1”。今年1月,该公司获得了200亿韩元的B轮融资,此次投资将用于Mobilint人工智能半导体ARIES的量产以及下一代芯片REGULUS的开发。ARIES即将量产,也将成为Mobilint正式进军全球AI半导体市场的筹码。
DEEPX也是一家韩国NPU芯片初创公司,由首席执行官Lokwon Kim于2018年创立,他曾在 Apple、Cisco Systems、IBM Thomas J. Watson 研究中心和Broadcom工作。该公司在5月初的C轮融资中刚筹集了8000万美元,较B轮1500 万美元的融资飙升了八倍多,目前估值达到5.29亿美元。这些融资将用于该公司首款产品 DX-V1、DX-V3、DX-M1和DX-H1的量产。不过目前,该初创公司尚未拥有客户,但正在与现代起亚汽车机器人实验室和韩国IT公司POSCO DX等100多家潜在客户和战略合作伙伴合作,测试DEEPX的 AI芯片功能。
FuriosaAI由来自三星、苹果、高通、AMD、谷歌和亚马逊的工程师于2017年创立,专注于生产AI推理加速器。截至目前,FuriosaAI已吸引超过1亿美元的投资。
2021年该司发布了用于计算机视觉的第一代芯片WARBOY(三星14nm)发布,同年也成为首家在MLPerf推理方面超越 Nvidia的AI芯片初创公司。他们的优势在于软硬件联合开发,该公司得到了重要客户的支持,其中包括韩国最大的互联网公司 Naver,华硕服务器也采用了该公司的WARBOY卡。2024年,该公司第二代用于大语言模型推理芯片产品RNGD也将发布,它采用台积电5nm,嵌入了 HBM3,性能是第一代AI芯片Warboy的八倍。
2022年7月,FuriosaAI任命英特尔前首席副总裁Bill Leszinske为高级顾问,Leszinske拥有30多年的产品规划和营销经验,其中包括他在推动英特尔 SSD 业务收入增长方面发挥的关键作用。Leszinske在离开英特尔后,还加入了AI芯片初创公司Groq。
可以看出,大部分的韩国的AI芯片初创公司都瞄准的是生成式AI这个市场。这些公司在不同的领域展开创新探索,从神经处理单元到延迟处理单元,从数据中心设计到智能半导体边缘型处理器,各自探索着AI芯片应用的新边界,意图在AI市场中占据一席之地。
机遇与挑战并存,
韩国AI芯片初创公司能否突围?
不得不说,这些AI芯片初创公司的成立有着很大的市场机遇。当下正值AI发展高峰期,客户不希望被一家AI芯片公司垄断,传统的芯片和初创企业都想来分一杯羹。德勤预测,2024年针对生成式人工智能进行优化的专用芯片市场规模将超过 500 亿美元,占当年所有人工智能芯片销售额的三分之二。德勤预测,2024 年人工智能芯片销售总额将占预计全球芯片市场规模5760亿美元的11%。而到2027年,与其他支持AI的芯片一起,可能占所有半导体销售价值的一半。
AI发展方兴未艾,目前所有训练和几乎所有生成式人工智能推理都是使用相同的数据中心生成式人工智能芯片完成的。但随着时间的推移,生成式人工智能推理的很大一部分可能将在边缘处理器上完成。这些可能是更小的GPU或CPU或新的专用集成电路,可能来自现有的生成式 AI 芯片公司,也可能来自新进入者,因此,这也为初创公司带来发展机遇。
政府的大力支持也是很重要的一方面,在AI、电气化的发展大势下,韩国政府开始重视Fabless企业,并努力发展本土产业链。在AI芯片层面,韩国的目标是到2030年,将韩国人工智能芯片在国内数据中心的市场份额从几乎为零提高到80%,实现本土化供应。
半导体是韩国出口导向型经济的重要支柱。3月份,芯片出口达到21个月新高,达到117亿美元,占该国出口总额的近五分之一。韩国的目标是超越存储芯片,在未来成为全球前三大AI国家之一,因此,韩国政府宣布到2027年的未来三年将在人工智能领域投资69.4亿美元。此外,韩国政府表示还将设立一个1.4万亿韩元(1 万亿美元)的基金,来帮助国内人工智能芯片制造商发展。可以看出,韩国在AI上下了大的赌注。
不仅是生成式AI领域,据韩国媒体BusinessKorea报道称,韩国政府正在积极推进新的研发项目,其中包括开发用于自动驾驶汽车的AI芯片,目标是超越美国半导体巨头英伟达。由研究机构、大学等代表组成的“第二次战略规划与投资委员会”批准了2025年62个新研发项目,包括超过 11 个领域的旗舰项目和路线图。韩国正在开发性能从数十到300 TOPS的自动驾驶芯片。
虽然韩国兴起了如此多的AI芯片初创公司,但前路仍然面临着不少的挑战:
首先,AI芯片研发需要大量的资金投入,这对于初创公司来说是一个很大的挑战。尽管这些AI芯片公司拿到了一些融资,但是芯片是个烧钱的行业,这点可以从目前业内几家著名的AI芯片公司窥得一斑。
其次,AI或者生成式AI芯片市场竞争激烈,产品研发出来到实际大规模商用还有很深的一条河。韩国AI芯片初创公司需要在技术、产品、成本等方面取得优势才能在竞争中脱颖而出。
最后,人才是重中之重,缺人是半导体行业的通病。目前韩国的这几家AI芯片初创公司无不在广揽人才。这些AI芯片初创公司的涌现,将有助于吸引韩国人才的回流。尽管韩国是存储芯片大国,但其实该国拥有相当数量的人工智能人才。根据斯坦福大学于4月15日发布的“2024年人工智能指数”报告,韩国以每10万人10.26项人工智能相关专利的数量领先于全球(图2),同时以0.79%的人工智能劳动力密度位居全球第三。尽管韩国在人工智能领域具有这些强大的竞争力指标,但该国正面临着人才外流日益加剧的挑战。据2023年数据显示,韩国每10万人中AI人才的净流出量为-0.30人(图3),意味着离开该地区的AI人才数量多于进入该地区的AI人才数量。
图2:2022年各国每10万居民人工智能专利授权情况,来源:2024 AI Index Report,stanford university
图3:2019-23年按地理区域划分的每万名LinkedIn会员的人工智能人才净迁移(图表:2024年人工智能指数报告)
结语
韩国总统尹锡烈表示:“正如过去 30 年我们用存储芯片统治世界一样,未来30年我们将用 AI 芯片书写新的半导体神话。”韩国的野心能否实现不得而知,但是一个事实是,这些AI初创芯片公司的崛起,为韩国半导体产业这汪水注入了新的活力。