11/30 国重讨论班记录
报告人:韦星星,副教授,北京航空航天大学
时间:2019年11月30日
本次报告是由国重张华老师邀请的北航韦星星教授做的一次关于视频对抗与防御的一篇报告。该报告简单全面的概述了对抗机器学习(adversarial machine learning)的基本概念以及发展方向,希望此篇报告能给大家带来一些启发。
面向视频数据的对抗攻击与防御
报告人:韦星星,副教授,北京航空航天大学
时间:2019年11月30日
本次报告是由国重张华老师邀请的北航韦星星教授做的一次关于视频对抗与防御的一篇报告。该报告简单全面的概述了对抗机器学习(adversarial machine learning)的基本概念以及发展方向,希望此篇报告能给大家带来一些启发。
目 录
1报告人介绍..……………………………………………………………………………………………………. 1
2 报告概述...……………………………………………………………………………………………………… 1
3 报告内容... ………………………………………………………………………………………………………1
3.1 背景...………………………………………………………………………………………………………… 1
3.2 AML发展概况..……………………………………………………………………………………………. 2
3.2.1 对抗机器学习原理...…………………………………………………………………………………… 2
3.2.2 对抗攻击的相关要素.………………………………………………………………………………….. 2
3.2.3 对抗防御(鲁棒性).………………………………………………………………………………….. 3
3.2.4 经典对抗攻击方法...…………………………………………………………………………………… 3
3.3 韦教授的研究内容.…………………………………………………………………………………………. 3
3.3.1 背景…………………………………………………………………………………………………………... 3
3.3.2 研究内容一:基于噪声传播的稀疏对抗样本生成方法(AAAI 2019) ……………………4
3.3.3 研究内容二:面向视频理解算法的启发式黑盒攻击方法(AAAI 2020)……………… 5
3.3.4 研究内容三:基于强化学习的黑盒视频攻击方法(CVPR 2020)………………………… 6
3.3.5 研究内容四:基于生成式网络的高迁移性对抗样本方法(IJCAI 2019) ………………6
3.3.6 研究内容五:基于帧间一致性的时域对抗样本防御方法.……………………………….. 7
3.4 未来研究方向..……………………………………………………………………………………………. 8
4感想..……………………………………………………………………………………………………………. 8
参考文献.………………………………………………………………………………………………………….. 8
1报告人介绍
韦星星,博士,副教授。2017年至2019年在清华大学人工智能研究院/计算机系从事博士后研究(张钹、朱军组)。先后于北京航天航空大学和天津大学获得学士及博士学位,曾在阿里巴巴任计算机视觉资深算法工程师。主要研究方向为对抗机器学习理论及其应用,计算机视觉,多媒体技术等,先后在CVPR,IJCAI,AAAI等人工智能领域顶级会议和期刊发表学术论文20余篇。与团队一起获得在拉斯维加斯世界黑客大会上举办的对抗样本国际测评赛CAAD CTF冠军。
2 报告概述
过去十年,深度神经网络在很多领域取得了令人瞩目的成绩。但研究发现深度神经网络非常容易受到对抗样本的干扰,使得深度神经网络的鲁棒性不足。当前对抗样本的研究大多集中在图像数据方面,对视频数据的研究较少。在本报告中,我将首先介绍对抗样本的基本概念和方法以及一些最新进展情况,然后介绍视频对抗样本和图像对抗样本的异同,在此基础上分别给出面向视频分类和视频中物体检测这两个任务的对抗攻击方法;接着将从时域和空域两个维度提出视频对抗样本的防御方法,旨在提高视频理解算法的鲁棒性。最后将对视频对抗样本未来的研究方向进行下展望。
1报告人介绍
韦星星,博士,副教授。2017年至2019年在清华大学人工智能研究院/计算机系从事博士后研究(张钹、朱军组)。先后于北京航天航空大学和天津大学获得学士及博士学位,曾在阿里巴巴任计算机视觉资深算法工程师。主要研究方向为对抗机器学习理论及其应用,计算机视觉,多媒体技术等,先后在CVPR,IJCAI,AAAI等人工智能领域顶级会议和期刊发表学术论文20余篇。与团队一起获得在拉斯维加斯世界黑客大会上举办的对抗样本国际测评赛CAAD CTF冠军。
2 报告概述
过去十年,深度神经网络在很多领域取得了令人瞩目的成绩。但研究发现深度神经网络非常容易受到对抗样本的干扰,使得深度神经网络的鲁棒性不足。当前对抗样本的研究大多集中在图像数据方面,对视频数据的研究较少。在本报告中,我将首先介绍对抗样本的基本概念和方法以及一些最新进展情况,然后介绍视频对抗样本和图像对抗样本的异同,在此基础上分别给出面向视频分类和视频中物体检测这两个任务的对抗攻击方法;接着将从时域和空域两个维度提出视频对抗样本的防御方法,旨在提高视频理解算法的鲁棒性。最后将对视频对抗样本未来的研究方向进行下展望。
详细内容请看附件