一张智算图,炸了整个圈!

发布于: 雪球转发:0回复:0喜欢:0

今天,一张图从一场发布会流出,炸了整个智算圈!

圈里的老炮儿们一看一个不吱声:友商闷头琢磨,客户两眼放光,渠道大为震撼…

啥图这么蹊跷?这是一张「全局智算」能力图,细分成六层。

之前几乎没见哪个厂商能这么条理清晰、体系化地告诉大家:一个智算项目,该如何设计?如何搭建?如何优化?如何运维?

而且,还非常清楚滴告诉业界,一个扛得起智算项目的厂商,到底应该具备哪些AI能力?比如,像我宁畅这样的

能落地才叫能力!宁畅说,我绝不纸上谈兵,我要让客户眼见为实。

所以,宁畅不仅现场发布了「AI算力栈方案」,还把这个方案在桐乡建成了样板点,包含了各种流行的大模型真实“训推”体验,开放参观!

果然,样板点一公开,现场就有很多客户抢着报名要去看看,这招真狠!

气氛已经烘到这份上了,那我们就来细品一下这张炸圈图:「宁畅全局智算能力」。

看看宁畅这匹智算界超强黑马,到底有啥金刚钻?

第一层,AI硬件资源层

宁畅核心能力:全栈液冷方案,交付规模可大可小。

在这一层宁畅直接上猛料,全栈液冷AI服务器!

当然,用户也可以选择风冷方案,液冷or风冷or风液混合,客户选择自由!

在交付规模上,相当灵活,无论客户想小规模试水还是一步到位,或者平滑过渡,宁畅都可以满足。

第二层,AI集群设计层

宁畅核心能力:AI集群,按需定制!极为灵活

设计AI集群时,宁畅会和客户把需求聊透。

按业务特征来,按应用场景来,按客户所处阶段来,按客户预算来,总之,强调实用性和适用性,不搞虚头巴脑的。

AI集群设计,宁畅从三个方面入手:

①从大的框架出发,对整个AI集群的网络和存储架构进行设计,比如可以把网络设计成“高速无损网络”,存储设计成“NVMe全闪架构”。

②从小的处理器出发,主要优化处理器相关性能,比如对内存宽带、指令集等进行AI调优。

③从上层业务出发,对AI模型进行特征分析,根据模型需求定制化资源配置,提高模型执行性能和资源利用率。

第三层:AI算子优化层

宁畅核心能力:AI集群调优和交付。

集群好比一个复杂的大机器,优化工作不是单点,而是AI全栈优化。

宁畅从多个角度入手调优,多维度进行计算性能的优化,让整个集群跑得快、跑得轻松、跑得有效率!

通过夯实底部三层,一个软硬件完美协同、具有超强战斗力的的AI集群底座构建完成!

第四层:AI中台层

宁畅核心能力:提供开箱即用的平台级AI工具

AI中台好比是一个AI工具仓库,内置各种业界主流AI工具用于模型训练、部署和管理等。也包括宁畅自有AI平台(Nex AIOM),帮助用户全程观测性能指标…

还提供一系列算力互联和调度工具、Notebook服务、模型与数据管理服务、用户认证安全等等。

第五层:AI业务层

宁畅核心能力:面向最终AI业务,为性能保驾护航

面向业务,进行大规模应用性能分析和优化,快速故障诊断和恢复…

第六层:AI业务层

宁畅核心能力:全栈智算服务,全局AI能力

让智算中心跑起来,落地“AI+”专项行动,落地各行各业....

全体系、全液冷、全服务、全场景、全行业、全阶段,覆盖大模型发展全周期需求,解决客户各场景复杂难题。

六层架构说的头头是道,那么,方案如何落地?产品形态?如何交付?

PPT一千次,不如干货亲眼见一次。

所以,我们展开聊聊宁畅基于“AI算力栈”解决方案,在浙江桐乡落地的样板点。

嘴炮退散,眼见为实,桐乡样板点长这样↓

整个智算集群由128节点组成,底层硬件产品可自由灵活组合。

最亮眼的是,宁畅B8000液冷整机柜服务器,冷静地闪着蓝光。

B8000被称为下一代高密度服务器的巅峰之作,每节点内液冷覆盖率超过90%,突破了冷板液冷的“极限”,由此带来完美PUE数值1.09。

同时采用「三路全盲插」设计,让液冷服务器的安装像普通服务器一样简单。

再细品,机柜里每台服务器(宁畅X680 G55领衔)都不是吃素的。

采用2颗第五代英特尔®至强®可扩展处理器,并满插8个AI加速卡,单台算力爆表。

大模型训推一体,速度嗖嗖快!

桐乡样板点,绝不是让你去机房,看看高大上的智算集群就完事了。

更核心的是,体验!

宁畅拉出了一个巨大的Demo list体验清单↓

说白了,客户未来搞智算想要做什么,在这些Demo里都可以眼见为实。看爽了,照葫芦画瓢来一套,绝对不会跑偏。

所想即所见,所购即所得!

这下算是彻底明白了吧。为啥发布会开完,样板点一出世,客户两眼放光,渠道大受震撼,友商沉默不语…

只因宁畅这套“AI算力栈”方案直击当前智算中心建设痛点,从底层硬件到顶层管理平台,覆盖算-存-网-建-管-用-液全局AI算力需求,支撑行业级/企业级智算中心的应用。

再加上桐乡样板点——Nettrix AI Open Lab正式开放,全局AI能力,肉眼可见。

2024智算大市场,宁畅,先拔头筹!