易用性和开放性上,腾讯Angel机器学习平台还支持常见的TensorFlow 模型和 API ,同时通过技术创新降低TensorFlow中复杂的性能优化、内存管理带来的困扰。此前,Angel系统已于2017年6月在Github开源,并于2019年荣获最受欢迎中国开源软件,是国内首个Linux 基金会 AI毕业项目。
腾讯 Angel 机器学习平台支持了腾讯混元大模型的打造。自2023年9月亮相至今,腾讯混元通过采用混合专家模型 (MoE) 结构,已将模型扩展至万亿级参数规模,实现预测性能提升和推理成本下降。作为通用模型,腾讯混元在中文表现上处于业界领先水平,尤其在数学推导、逻辑推理和多轮对话中性能表现卓越。目前,腾讯混元也在积极发展多模态模型,以进一步加强文生图和文生视频能力。
在腾讯混元大模型的训练和推理实践中,Angel机器学习平台实现大模型训练效率提升至主流开源框架的2.6倍,千亿级大模型训练可节省50%算力成本,升级后支持单任务万卡级别超大规模训练。在推理上,Angel机器学习平台推理速度提高了1.3倍,在腾讯混元大模型文生图的应用中,推理耗时从原本的10秒缩短至3至4秒。
除了腾讯混元大模型,Angel 机器学习平台也支持了腾讯广告以及腾讯会议等产品,并通过腾讯云服务多个行业。$腾讯控股(00700)$