大数据与人工智能安全研究团队1篇论文在顶级会议ICCV录用

信息来源:88858cc永利官网   点击次数:  发布时间:2023-07-29

  近日,国际顶级学术会议ICCV 2023论文接收结果公布,大数据与人工智能安全研究团队1篇论文LEA2: A Lightweight Ensemble Adversarial Attack via Non-overlapping Vulnerable Frequency Regions被录用,是我校在该顶会的首次突破,也是团队连续在人工智能顶会录用的第三篇论文。论文以我校为第一单位,钱亚冠老师为第一作者,研究生贺姝可为第二作者。合作单位有海康威视、北京交通大学。论文针对目前深度神经网络在图像分类中的安全脆弱性这一研究热点,从研究的角度提出了一种新的轻量级集成攻击方法。论文首先发现了标准模型、弱鲁棒模型和鲁棒模型在频域的不同特性;基于该发现,通过离散余弦变换,从频域空间出发,构建不重叠的鲁棒脆弱区域;再通过不同鲁棒脆弱区域上的源模型集成,生成具有覆盖目标模型对抗子空间的对抗样本。该方法的优势在于用标准、弱鲁棒和鲁棒这三类模型集成,即可获得以往工作中需要大量源模型才能覆盖的对抗子空间,极大地提高了算法的时间效率,同时也提升了跨模型的黑箱攻击能力,对于产学界进一步认识人工智能模型的潜在安全风险具有积极意义。论文工作得了国家自然科学基金重点项目、浙江省自然科学基金重点项目、(海康威视)多维感知技术应用与安全省重点实验室开放基金的资助。


      ICCV (IEEE International Conference on Computer Vision),即国际计算机视觉大会,由IEEE主办,与计算机视觉模式识别会议(CVPR)和欧洲计算机视觉会议(ECCV)并称计算机视觉方向的三大顶级会议,被澳大利亚ICT学术会议排名和中国计算机学会等机构评为最高级别学术会议。不同于在美国每年召开一次的CVPR和只在欧洲召开的ECCVICCV在世界范围内每两年召开一次。ICCV论文录用率非常低,是三大会议中公认级别最高的会议,是中国计算机学会 (CCF) 推荐的人工智能类A类会议,在业内有极高的评价代表人工智能技术的最高研究水平,尤其计算机视觉方向的风向标。本届ICCV在法国巴黎召开。(办公室: 康  明)