在大模型场景落地元年 中国电信亮出“AI长期主义”

发布于: 雪球转发:0回复:0喜欢:0

以网强算、AI Agent、软件工厂

作者/ IT时报记者郝俊慧

编辑/孙妍

一夜出“梅”入夏。

7月3日晚上一场电闪雷鸣的暴雨之后,7月4日,申城进入天天烈日当头的“烧烤模式”。然而,上海世博展览馆和世博中心门外,穿戴着各种防晒装备的人流却大排长队。AI,是这个夏天比天气还要火热的焦点。

第七次举行的世界人工智能大会(WAIC2024),创下数个第一,展览规模、参展企业数、亮点展品数、首发新品数均达历史最高,500余家企业参展,市外企业和国际企业占比超50%,展品数量超1500项。

这也是中国电信10天内在上海参加的第二个全球性大会。

一周前,在2024世界移动通信大会·上海上,中国电信展示了自己“老本行”的强大实力,5G-A、6G、量子通信、车连卫星……连接,是所有关于未来想象的基石。

一周后,在中国的“AI春晚”,中国电信展示了另一套完全对标科技型企业的“新打法”,智算平台、星辰大模型、AI软件工厂……人工智能,是驱动未来到来的新引擎。

五年前,中国电信把人工智能作为主要技术方向进行布局时,我们是基于数字信息基础设施的智能化去理解、认知和推动这项工作的。”中国电信董事长柯瑞文在WAIC 2024中国电信星辰人工智能生态论坛上演讲时表示,没想到ChatGPT出现短短一年多,AI产业便经历了芯片、安全、商业模式、现金流等种种挑战以及“百模大战”,他深深感受到,作为电信运营商,不仅要充分发挥自己独特的资源禀赋和能力优势,更要带头引领创新和产业发展,在应用驱动和生态合作中,实现科技的自立自强,推动人工智能产业的高质量发展。

WAIC2024期间,中国电信全方位展现了近几年人工智能领域的创新成果,并发布国内首款破局性AI开发工具——星辰大模型·软件工厂,揭牌中国电信人工智能研究院(TeleAI)。

我们将致力成为智能算力的主要服务商、通用大模型的先行者、行业大模型的主导者,做到基础更强、开放更广、应用更深和安全更牢。”面对时代机遇,中国电信总经理梁宝俊如是说。

AI即将“乘风破浪”,在这个炽热而充满活力的七月,中国电信稳步走上初舞台。

以网强算

百公里并池计算

“人工智能有一个很长的过去,长到你可以追溯到100多年前,但也有一个非常短的历史,短到GPT出来(才开始)。”中国工程院院士王坚对于这轮人工智能浪潮的革命性非常期待,在WAIC2024全体会议圆桌论坛中,他认为,新时代一定会有新的大公司诞生,也一定会有大公司“烈火重生”。

大象转身,更要找准方向,全力以赴。

2023年7月举行的世界人工智能大会上,中国电信首次发布自己的大模型——星辰大模型,并在2023年11月28日成立了中电信人工智能科技(北京)有限公司,这是中国电信集团在2023年成立的第二个注册资本30亿元的专业公司。

时隔一年,在今年世界人工智能大会上,柯瑞文再次对外公布中国电信现阶段的AI进展:确立网络、云及云网融合、人工智能、量子/安全等四大科技方向,完成了七大战略性新兴业务布局,以“星辰”为品牌,形成“1+1+1+M+N”的人工智能体系,即一个智算云底座,一个数据底座,一个星辰大模型底座,M个企业内部大模型,N个行业大模型应用。

在一体化算力互联网方面,中国电信聚焦算力、连接、调度三大基本要素,规划建设了“2+3+7+X”公共智算云。其中,在上海、北京建成的两个单池万卡智算集群,是全国最早建成并且真正投入商用的单集群国产超大规模公共智算中心。

此外,为了以网强算,中国电信打造了跨DC分布式无损网络,推进400G高速全光网全国覆盖,在业界首次完成1.6T数据在40分钟内跨2000公里的传输,破解海量数据高速入算难题,并且在实验室实现了百公里内的并池计算。

中国电信大模型首席专家刘敬谦告诉《IT时报》记者,通过400G/800G的超高宽带将两个位于不同区域的实验室,无损高速连接,可以将同一个预训练任务同步部署在两个相隔百公里的实验室里,而且连续训练时长与在同一个物理数据中心内训练相当,这将大大缓解国内大模型厂商的“算力焦虑”。

落地元年

大模型要先用起来

今年被称为“大模型场景落地元年”,WAIC展台上,不仅来了近百家大模型厂商,而且每家都展示出自己在行业落地方面的应用场景和实际案例。

“大模型到底如何真正为企业提效?”依然是令观众们感到困惑的难题。尤其在To B场景中,企业用户不仅关注大模型能否解决具体业务场景的问题,更关注可用性和性价比。

“大家要先用起来。”柯瑞文并不否认,人工智能与行业场景的融合仍处于起步阶段,但他认为,坚持应用导向,只有在用的过程中不断迭代完善,不断形成规模化发展,才能不断创新商业模式,而中国电信要率先带头尝试,开放场景,联合产业伙伴加速应用落地。

目前,中国电信聚焦14个重点行业,打造了32个场景大模型,并在法律、文旅、教育、政务等七个行业推出了行业大模型“智能体”(AI Agent),帮助目标用户在真实场景下,完成辅助问答、应急巡检、提前规划方案等多种专业功能。

对于有服务能力的客户,中国电信重点提供星辰Maas一站式服务,包含三十多个基础模型、五十多类工具集、六十多项数据集,帮助客户打造自身的场景模型。据刘敬谦介绍,通过电信星辰Maas平台,大型国央企可以将整个大模型生命周期管理起来,比如中车集团便以电信星辰Maas平台为底座,快速构建中车Maas平台,采用算力租赁为主、自建为辅的混合方式,实现全集团和子企业快速上线、按需使用、弹性扩展和经济高效的使用模式。

AI Agent

落地场景的“抓手”

AI Agent是中国电信在行业大模型落地场景中非常关键的一环。

“没有一个大模型能解决所有问题,没有一个基础模型能解决所有行业问题。”在经过一年半的技术狂飙和应用落地尝试后,这句话出现在讨论人工智能发展的各个场景中。

专业智能体被认为是大模型落地产业的有效路径。医疗、教育、金融、制造、交通、农业等各行业领域,未来都有可能依据自己的场景和特有经验、规则、数据等等,生成数以百万量级的智能体,形成庞大生态。

在科学发展史中,一个好问题比一个好答案更重要,通用大模型也是如此,“会提问”意味着更好的调优。然而,对于企业用户而言,这却是一个不低的门槛。

腾讯云副总裁、腾讯优图实验室负责人吴运声认为,所谓“智能体”,本质是指希望回到大语言模型的初衷,直接从最朴素的语言层面,以统一的方式去应对广泛的需求,目前业界正处于百花齐放的阶段,但大家也都遇到不少局限性。

“智能体将充分发挥大模型的潜力。”刘敬谦也认为,只要用自然语言提出需求,便可以集合企业的所有底层能力直接给出答案的AI Agent,是大模型落地应用场景的重要抓手,但一个好的智能体关键在于能够将基座大模型,以及大量行业数据、企业业务和管理架构完美地融合在一起,才能确保最终呈现在使用者面前的是一个“无所不知”的助手,“中国电信做智能体的优势在于,具有丰富的行业经验和海量数据,而且与很多行业有API接口,可以很快将智能体落地部署。”他说道。

目前,中国电信携手合作伙伴,积累了37大类行业数据,规模超过350TB,还有12亿张图文数据、PB级视频数据。

例如,中国电信与依图科技联合推出的应急预警视觉大模型,可快速识别出180多种风险隐患和灾害场景,广泛服务于各级应急管理单位和应急救灾工作。其中,应急AI Agent可以在复杂系统中模拟人类专家的行为,自主执行特定任务。

在智能隐患巡检领域,AI Agent能够将复杂的业务逻辑转化为结构化的知识图谱,便于算法理解和运用,然后再制定子节点任务流程,自主判断隐患并进行预警,通过与系统业务流程的无缝对接,实现高效、自动化的巡检流程。

“我们与应急部门合作,一旦发现险情,Agent可以自动报警,并在用户的手机、电视等终端上‘霸屏’提醒。”刘敬谦说道,更重要的是,星辰的AI Agent已经在国产算力集群和国产大模型上全部跑通,实现了全栈国产化。

软件工厂

人人都是产品经理

如果将AI时代视为第四次工业革命的开端,那么,从2022年到现在,只是一个“漫长季节”的开始,信奉长期主义的企业才能够行稳致远

“AI浪潮是你方唱罢,我登场,但弱水三千,我只取一瓢饮。我们不需要什么都做,只需要知道最大公约数是什么。”在谈及AI的未来时,中国电信首席科学家李学龙表示,不同国家和公司的AI路径会有很大的差异,中国电信更注重和实体经济的结合,解决工业和农业中面临的实际问题,降本增效提质。

近两年来,基于“通用大模型、行业大模型、垂直应用大模型”的路线,中国电信不断技术迭代,天翼AI持续完善大模型能力,提升语言、视觉和多模态大模型的认知水平和推理性能,今年4月推出的星辰语音大模型支持30种方言自由混说,是国内支持最多方言的语音识别大模型。

此次WAIC上,中国电信天翼AI又发布了一款名为星辰大模型·软件工厂的新产品,利用最新的多模态大模型技术,可以自动生成前后端代码,并进行自主测试和纠错,形成软件开发的全自动流水线。用户仅需简单写下产品文档,大模型可根据文档内容生成代码,在软件工厂内一键部署并上线。

各个互联网大厂纷纷推出“AI程序员”,中国电信的“软件工厂”与之有何不同?

据了解,当前大多数代码生成产品,依旧是以对话模式为主,仅仅在开发流程中扮演辅助角色,同时受限于对话Token上限,无法支撑项目级别的代码生成、部署与维护迭代。

星辰大模型·软件工厂构建了三大核心能力:开发流程革新、代码可控生成和交互模式升级,设计了大模型编程交互新模式,用户无需直接与大模型沟通,只需要关心产品需求与描述文档撰写,跟随软件工厂的步骤指引即可完成软件开发、测试与部署。

这种面向文档的开发范式,不仅让用户可以专注于核心业务逻辑的实现,而不是繁琐的编码和调试,而且非软件开发人员也可以直接参与到项目开发进程中。

发布该产品的中电信人工智能总经理何忠江坦承,软件工厂的生成,最大的难点在于要将软件工程和大模型能力做很好的适配,“我们踩了很多坑,而且还在继续踩很多坑,”但随着技术的迭代更新,最终,每个人都可以生成自己想要的软件系统,人人都是产品经理,人人都是研发人员。

星辰大模型·软件工厂的发布,本质上是星辰多模态大模型在软件开发领域的落地应用,也是基座大模型星辰在能力上的又一次探索。

据透露,本月底,星辰软件工厂或将启动友好用户招募,第三季度布局在天翼云上面,面向企业用户开放。

排版/ 季嘉颖

图片/ 费锋

来源/《IT时报》公众号vittimes

E N D

大家都在看

请加「星标」不错过我们