数据不出域,也能联合建模,这是联邦学习技术,几年前国内就玩过了。
[抱拳]您更懂技术内涵哈,我只是参与了技术的应用。这里是不是也要看这种方式所能恢复的数据量、完整度等?[抱拳][抱拳][抱拳]
最新的我不大了解哈,杨强老师很厉害。因为AI模型本身就很容易被攻击,道高一尺 魔高一丈一直都是这样,只是攻击难度会高点,攻击有多少收益问题。现在也有一些同态加密研究去实现类似的云计算如何保证用户数据安全问题。
联邦学习最早是谷歌提出的,但是呢,看起来安全,其实也不安全。虽然联邦学习把不同训练数据做到了隔离还能训练同一个模型,但是模型参数会拟合记忆训练数据,可以从参数中提取恢复出部分训练数据
是的,比如人脸场景通过设计用来攻击的训练数据,能完整提取出想要的人脸,但是自动驾驶场景我没了解过哪些数据是敏感的,行人人脸肯定也会有
建超算中心,第一买不到gpu,第二美国可能会禁止ai训练算法落地中国,反正美国肯定硬件软件都给你堵死
也许也许也许可能大概有一点点可能会意外的允许数据脱敏后传到美国,和最近美国那边以数据安全为由禁止tiktok做个反差,四两拨千斤攻守之势转换