发布于: 雪球转发:1回复:16喜欢:0
【OpenAI、蚂蚁集团谷歌科大讯飞等联合编制大模型安全国际标准正式发布】《科创板日报》17日讯,在瑞士举行的第27届联合国科技大会上,世界数字技术院(WDTA)发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准,是由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软英伟达百度腾讯等数十家单位的多名专家学者共同编制而成。(记者 黄心怡)

精彩讨论

000ss04-17 13:15

科大讯飞怎么也混进去了,站在巨头们后面,自己不脸红吗

纳斯达克100ETF04-17 13:50

大模型也有标准了,有利于行业健康发展$英伟达(NVDA)$ $纳斯达克100ETF(SZ159659)$ $谷歌A(GOOGL)$

科创100ETF04-17 14:40

大模型安全国际标准正式发布,利于行业长期健康发展。$科创100ETF(SH588190)$ $上证指数(SH000001)$ $科创50(SH000688)$

全部讨论

04-17 13:15

科大讯飞怎么也混进去了,站在巨头们后面,自己不脸红吗

大模型也有标准了,有利于行业健康发展$英伟达(NVDA)$ $纳斯达克100ETF(SZ159659)$ $谷歌A(GOOGL)$

04-17 14:40

大模型安全国际标准正式发布,利于行业长期健康发展。$科创100ETF(SH588190)$ $上证指数(SH000001)$ $科创50(SH000688)$

今天我看AI修复,谁赞成谁反对!不是不看新方向,就目前来看,没有一个题材能代替人工智能,只要鸿博和拓维没有双双被按在地板上摩擦,我就不看退潮

科大讯飞牛的!

04-17 17:30

蹭蹭蹭

04-17 13:17

科大讯飞咋混进去的?

04-17 14:47

《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准的发布具有重大的价值和意义。
首先,这些标准的制定和发布有助于统一和规范全球范围内生成式人工智能和大语言模型的安全测试流程和方法,确保这些先进技术的安全性和可靠性。这对于促进人工智能技术的全球合作与交流,以及推动人工智能产业的可持续发展至关重要。
其次,这些标准的实施有助于提高公众对人工智能技术的信任度。通过明确的安全要求和测试方法,可以有效地减少由于人工智能应用可能带来的安全风险,从而增强用户对人工智能产品的信心。
再者,这些标准的制定和推广有助于引导人工智能技术的正确发展方向。通过对人工智能产品和服务的安全性进行严格评估,可以促进人工智能技术的伦理和法规遵从性,防止滥用和误用,保障用户的权益。
最后,这些标准的发布也是我国在国际人工智能治理领域发挥领导作用的重要体现。参与制定这些标准的单位包括了我国的知名企业如蚂蚁集团和科大讯飞等,这标志着我国在人工智能国际标准制定方面的影响力日益增强,有助于提升我国在全球人工智能治理中的话语权和影响力。

04-17 18:54

这张图看的清楚,讯飞在第一排

04-17 14:47

这些新发布的国际标准是针对生成式人工智能和大语言模型的安全测试制定的,意在指导和规范相关技术的安全实践1。它们为生成式人工智能服务的安全评估提供了一个框架,强调了在服务全生命周期内对模型、算法和数据三个维度的安全实践的重要性2。
具体来说,这些标准涵盖了从语料采集、预处理、模型训练、服务部署到最终的用户交互等各个阶段的安全要求,确保了生成内容的合法性、合规性以及伦理道德标准。它们还提出了对生成内容的准确性和可靠性进行评估的方法,以及对服务提供者的安全措施提出了明确要求,包括对未成年用户保护、服务透明度、个人信息处理规则等方面的指导方针3。
通过这些标准的发布,国际社会对于人工智能技术的信任和安全可控性有望得到加强,同时也为各国在人工智能领域的监管提供了重要的参考和指导。