澳门老虎游戏机_澳门老虎机游戏平台网址

专题链接

学术看板 当前位置: 首页 > 专题链接 > 学术看板 > 正文

学术讲座:面向联邦学习的用户级隐私攻击

作者:丁旭阳 来源: 澳门老虎游戏机阅读次数:日期:2019年12月27日

报告主题:面向联邦学习的用户级隐私攻击

报告时间:2019年12月31日 下午15:00-17:00

报告地点:创新中心A102

报告人:王志波 武汉大学教授

报告人简介:

王志波,博士,武汉大学国家网络安全学院教授,入选湖北省“楚天学者”、武汉大学“珞珈青年学者”,以及荣获了ACM武汉学术新星奖。2007年毕业于浙江大学信息学院自动化专业,获学士学位;2014年毕业于美国田纳西大学,获计算机工程博士学位。研究方向包括物联网、移动感知与计算、网络安全与隐私保护、人工智能安全。在网络与安全领域著名期刊和会议上发表论文80余篇,其中CCF A类论文24篇,发表在TMC、TDSC、TPDS、ICCV、CCS、INFOCOM、AAAI等顶级期刊和会议上,7篇论文入选ESI高被引论文。主持与参与多项国家级省部级项目,受邀担任IEEE ACCESS等期刊编委,IEEE INFOCOM、IEEE IPCCC、Globecom、ICC等多个国际会议的大会程序委员。现为IEEE高级会员、ACM会员及CCF高级会员,CCF物联网专委会常委,中国电子学会物联网青年专技组常委。


内容简介:

联邦学习是一种分布式机器学习框架,近年来在隐私安全与机器学习领域受到广泛关注和研究。相比于传统的集中式学习框架,联邦学习将模型的训练过程转移到了用户端,仅需要用户周期性地提交模型参数更新就能完成模型训练,避免了服务端对用户数据的恶意访问和滥用。本次报告研究了联邦学习中的隐私问题,提出了一个基于恶意服务端的用户隐私数据重建攻击方法,通过建立一个多任务生成对抗网络模型来模拟用户的数据分布,并利用用户参数更新来计算其数据表征以重建特定用户隐私数据。相比已有的攻击方法只能重建表征某个类别的样本数据,我们的攻击方法可以实现用户级的数据重建,并通过手写数字分类和人脸识别两个任务验证了攻击有效性,阐明了模型参数更新中包含了过多的隐私信息,现有联邦学习框架仍存在安全隐患。