（记者 陈洲）近年来，随着AI的发展，网络空间迎来新的安全风险，包括数据泄露、技术滥用等。中国信息通信研究院人工智能研究所安全与元宇宙部主任石霖强调，“AI技术不仅能够提升安全运营的智能化水平，还能应对复杂的网络攻击，提升风险防控能力。”
（图片来源：摄图网）
因此，建立AI安全风险管理体系，具有划时代的重要性。为强化“AI+安全”的实际落地应用，中国电信在多角度发力，努力在AI时代当好网络安全的守护者。
如何平衡AI业内的“攻守道”
AI 在现代社会中具有多方面落地应用的需求，既能在主动型应用领域发挥作用，也能在服务型应用领域提供支持，反映了AI进可攻、退可守的双属性。
尤其在网络安全方面，AI可化身为尖锐的“茅”，黑客可借此开发新的攻击策略，例如通过自动化工具进行网络入侵；同样，AI也是稳固的“盾”，可以帮助识别和防御网络攻击，保护关键数据。
随着AI技术的迭代，网络“矛盾”对抗已进入新阶段。正如深信服副总裁、研发体系总经理梁景波所言，有攻击者已经开始利用大模型技术来提升攻击能力，例如通过大模型生成的高对抗样本能够绕过现有安全设备。另一方面，AI技术也被用于安全运营，帮助提升运营效率和响应速度。
细数近年来各类如：通过AI换脸的网络诈骗、基于AI的钓鱼邮件、AI数据“投毒”等等的不法网络安全行为已成为常态，如何应对成为当前一大难题。
业内专家普遍认为，应尽快发挥AI赋能网络安全的积极作用，让稳固的“盾”抵御尖锐的“茅”。中国新一代人工智能发展战略研究院执行院长龚克就表示，人工智能的风险主要来自两个方面：一方面，是人工智能技术存在弱点和不足，而不是过于强大，需靠发展创新去解决；另一方面，是使用者对人工智能的滥用和恶意使用，以及依赖而非驾驭人工智能。
加快推进人工智能安全治理
在日前举办的世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2024）上，图灵奖得主、中国科学院院士、美国国家科学院外籍院士姚期智就表示，随着 AI 能力的出现，数据和网络安全的困难放大了100倍。此外，上海人工智能实验室主任、首席科学家，清华大学惠妍讲席教授周伯文则认为， AI 的发展应在性能和安全之间保持平衡，避免长期失衡。
根据MarketsandMarkets报告，2023年全球网络安全人工智能市场规模为224亿美元，预计在预测期内复合年增长率为21.9%，到2028年将达到606亿美元。
面对人工智能时代新的网络安全态势，当前各方都在呼吁提高对网络安全态势的重视水平，强化体系化安全能力建设。
在国内政策方面，我国采取了包容审慎的治理方式，实施了“小切口”的立法策略，针对特定应用领域提出监管要求。例如，2023年8月实施的《生成式人工智能服务管理暂行办法》，标志着我国在生成式大模型领域的立法领先地位。此外，2023年10月，我国还提出了《全球人工智能治理倡议》，旨在加强国际合作，推动建立公平、公正的国际治理体系。2024年7月4日，WAIC 2024开幕式上，上海向全球发布了《人工智能全球治理上海宣言》，更是充分反映了国际社会对人工智能发展、安全和治理方面的共识，呼应了发展中国家的诉求。
从国际角度看，近年来，对人工智能安全治理的关注和努力显著增加。治理进程正在加速，形成了各国政府主导、国际组织积极推进、科技企业协同治理的多方参与格局。不同国家和地区采取了不同的治理策略。例如，欧盟在2024年3月发布了《人工智能法案》，被认为是全球首部综合性人工智能治理立法。该法案对人工智能系统进行了分类，并根据风险等级制定了相应的监管要求，包括数据管理、透明度、可解释性、人类监督等方面。美国总体上采取了宽松温和的治理策略，以促进发展为主，兜底风险为辅。2023年1月，美国商务部国家标准与技术研究院发布了《人工智能风险管理框架》，旨在对人工智能系统全生命周期实行有效的风险管理。
此外，国际组织和各国政府正在努力推动形成全球人工智能安全治理共识和创新合作。例如，联合国秘书长古特雷斯在出席联合国安理会人工智能与安全问题高级别公开会上就呼吁，管控人工智能技术风险，并成立新的联合国机构强化人工智能全球治理。
中国电信强化“AI+安全”应用
近日，在WAIC 2024期间，中国电信董事长柯瑞文在中国电信星辰人工智能生态论坛上提到，为推动人工智能产业高质量发展，中国电信将联合多方共同制定产业规则、制度和技术标准，进一步深化与ITU、GSMA等国际组织、产业合作伙伴在大模型等领域的技术交流和联合创新，积极贡献中国电信在实践中的经验，共同应对人工智能领域深度伪造、伦理安全、数字鸿沟等风险和不足。
纵观中国电信在强化“AI+安全”应用方面的努力，主要体现在以下几个方面。
首先，中国电信构建了四级算力布局体系，总智算规模达到16EFLOPS，这一强大的计算能力为各种AI应用提供了坚实的基础。同时，中国电信自主开发了语义、语音、图像和多模态的星辰基础大模型体系，这一体系不仅能够处理多样化的数据类型，还能够实现多模态数据的融合和深度理解。在此基础上，中国电信发布了多模态大数据AI融合PaaS底座，为各类AI应用提供了高效、稳定的基础设施支持。
其次，中国电信还研发了星河AI平台，依托四级算力，在20省部署核心算法，算法日均调用量达3.3亿次。这一平台不仅能够为用户提供智能化的服务，还能够通过算法的优化和升级，不断提升服务的质量和效率。例如，在语音识别、图像识别等领域，星河AI平台已经取得了显著的成果，并在多个场景中得到了广泛的应用。
此外，中国电信发布了见微安全大模型2.0等产品，专注于数据安全和人工智能安全。这个模型通过深度嵌入实际的安全运营流程，增加了运营数据的积累，并扩展了场景应用驱动的采集源和RAG数据，为客户提供高质量的安全服务支持。例如，在网络安全领域，见微安全大模型2.0能够通过分析网络流量、检测异常行为等方式，及时发现和防范各种安全威胁，保护用户的网络安全。
中国电信翼支付系统还针对新兴的“AI换脸”欺诈方式，自主研发了金融级KYC证件识别产品“侦图”平台。这个平台利用先进的技术，如“级联+双路卷积+多尺度特征融合”，交叉校验用户上传的证件信息，并比对人脸进行精确识别，有效阻挡了“AI换脸”相关欺诈模式的入侵。例如，在支付场景中，侦图平台能够准确识别用户身份，防止不法分子利用AI换脸技术进行欺诈行为，保障用户的支付安全。
中国电信还全面布局了安全产品，包括量子安全云、量子安全OTN、量子密信、量子密码解决方案等，以及可信通信3.0组件和密评助手组件，为客户提供全方位的安全服务。这些产品不仅能够为用户提供安全可靠的数据传输和存储服务，还能够帮助用户建立完善的安全防护体系，防范各种安全威胁。
综上所述，中国电信通过技术创新、产品研发和全面的安全布局，有效强化了“AI+安全”应用，为用户提供了更加安全和可靠的服务。在未来，随着人工智能技术的不断发展和应用场景的不断拓展，中国电信将继续加大在“AI+安全”领域的投入和创新，为用户提供更加优质、安全的服务体验。