技術名稱 TroyGAN: 以病毒型對抗性樣本攻擊深度神經鑑定器
計畫單位 國立交通大學
計畫主持人 黃思皓
技術簡介
本研究提出了一種全新的網路架構TroyGAN,它能夠生成對抗式樣本去攻擊訓練中的深度多類分類器(如人臉辨識器)。
  TroyGAN的架構主要基於生成對抗網路(GAN):
生成器 Generator - 生成對抗樣本,樣本必須為人臉且能攻擊分類器
鑑別器 Discriminator - 檢測對抗樣本是否為人臉
分類器 Classifier - 被攻擊的分類器
科學突破性
本研究的對抗樣本可以攻擊目前最新的深度分類器模型,並能在黑盒攻擊中達到更高的攻擊成功率。與之前的研究相比:
#本研究直接使用雜訊生成對抗樣本,而非僅在圖片上添加雜訊
#攻擊階段由測試階段改為訓練階段
產業應用性
本技術可大量應用於金融科技應用情境中的影像辨識技術的資安攻防。金融產業目前正積極使用身份辨識於各項應用中,而深度學習的影像辨識系統正是目前辨識系統的主要架構及趨勢。然而,除了辨識能力外,當中的安全性亦是重要一環。因此,TroyGAN能夠模擬各種在訓練期間出現的攻擊樣本,令AI能夠具備防禦力去抵抗攻擊。
關鍵字 人臉辨識 生成對抗網路 資訊安全 對抗型攻擊 金融科技 電腦視覺 深度學習 機器學習 人工智慧 巨量資料
備註
  • 聯絡人
  • 陳澤桐
其他人也看了