Ampere推出3nm工艺256核CPU,并与高通合作开发AI推理解决方案

发布于: 雪球转发:0回复:0喜欢:2

近日,服务器芯片厂商Ampere Computing正式发布了年度战略和产品路线图更新,带来了全新的3nm工艺256核心的 AmpereOne® 平台产品。Ampere 还宣布正在与高通技术公司携手合作,共同开发人工智能推理联合解决方案。

半导体行业资深人士,Ampere 首席执行官 Renee James 表示,人工智能的发展带来了日益增长的电力需求和能源挑战,使 Ampere 围绕性能和能效的芯片设计方法比以往任何时候都更加受到业界关注。Renee James 表示:“Ampere 自六年前起就致力于高性能、高能效的芯片设计,因为我们坚信这是未来的发展方向。过去,低能耗往往与低性能同义,但是 Ampere 已经证明这并非事实。我们开创了计算效率的前沿,在高效计算环境中提供超越传统 CPU 的性能。”

Renee James 进一步强调了人工智能快速发展所带来的日益严重的问题:能源问题。她表示:“当前的发展道路并不可持续。我们坚信,未来的数据中心基础设施必须解决两大问题:一是如何通过升级计算来优化现有的风冷环境;二是如何构建符合电网供电能力的新型可持续数据中心。这正是 Ampere 力求实现的目标”。

Ampere 首席产品官 Jeff Wittich 介绍了公司的愿景——“人工智能计算(AI Compute)”,该愿景旨在将传统的云原生功能与人工智能深度融合。Jeff Wittich 表示:“Ampere CPU 能够运行各种工作负载——从最流行的云原生应用程序到人工智能,包括与传统云原生应用程序集成的人工智能,例如数据处理、web 服务、媒体分发等。”

全新AmpereOne平台:3nm工艺256核

Renee James 和 Jeff Wittich 共同宣布,Ampere 将推出全新的 AmpereOne® 平台,基于 N3 工艺节点,配备 12 通道和 256 核 CPU。192 核 12 通道内存平台预计将在今年晚些时候推出。

据介绍,即将推出的 256 核 AmpereOne® CPU将采用与现有 192 核 AmpereOne® CPU 相同的风冷散热解决方案,并提供比当今市场上任何 CPU 都高出 40% 以上的性能,且无需采用复杂的平台设计。

Ampere表示,AmpereOne在每瓦性能上继续保持领先地位,与业界某两款领先的传统 x86 处理器相比,AmpereOne® 的每瓦性能分别高出 50% 和 15%。对于希望更新和整合旧基础设施以节省空间、预算和电力的数据中心而言,AmpereOne® 的每机架性能提升了高达 34%。

根据Ampere公布的数据显示,AmpereOne在提高每机架的云原生性能方面,AmpereOne比AMD Genoa提高了58%,比AMD Bergamo提高了42%。

并且,基于AmpereOne的解决方案,相比基于AMD Genoa/Bergamo,可以带来33%的机架空间的节省,15%的服务器的节省、35%的功耗节省。

全新 AmpereOne® OEM 和 ODM 平台将在未来几个月内发货。

Ampere还带来了Meta Llama 3 在基于 Ampere CPU 的 Oracle Cloud 上运行的更新。性能数据显示,在 128 核 Ampere® Altra® CPU 上运行 Llama 3(无需 GPU 辅助),其性能可媲美 Nvidia A10 GPU 与 x86 CPU 的联合运算,但功耗仅为后者的三分之一。

携手高通合作开发AI推理解决方案

Ampere宣布,其正在与高通技术公司合作,共同开发采用 Ampere CPU 和 Qualcomm Cloud AI 100 Ultra 的解决方案。该方案将解决业界最大的生成式人工智能模型上的大语言模型(LLM)推理问题。

Ampere 还宣布成立 UCIe 工作组,作为 AI 平台联盟(AI Platform Alliance)的重要组成部分。作为该联盟的一部分,Ampere 表示将利用开放接口技术来增强其 CPU 的灵活性,使其能够将其他客户 IP 整合到未来的 CPU 中。

Ampere 还宣布与 NETINT 推出联合解决方案,该方案采用 NETINT 的 Quadra T1U 视频处理芯片和 Ampere CPU,可同时对 360 个直播频道进行转码,并使用 OpenAI 的 Whisper 模型为 40 个流媒体提供多种语言的实时字幕。

除了内存标记(Memory Tagging)、QOS 强制(QOS Enforcement)和网格拥塞管理(Mesh Congestion Management)等现有功能外,Ampere 还推出了全新 FlexSKU 功能,该功能允许客户使用相同的 SKU 来处理横向扩展和纵向扩展用例。

编辑:芯智讯-林子