近年來，人工智能已經取得了長足的進步，但正如許多人工智能使用者所表明的那樣，人工智能仍然容易出現一些人類并不會犯的驚人錯誤。雖然這些錯誤有時可能是人工智能進行學習時不可避免的后果，但越來越明顯的是，一個比我們意想中嚴重得多的問題正帶來越來越大的風險：對抗性數據。

對抗性數據描述了這樣一種情況，人類用戶故意向算法提供已損壞的信息，損壞的數據打亂了機器學習過程，從而欺騙算法得出虛假的結論或不正確的預測。

作為一名生物醫(yī)學工程師，筆者認為對抗數據是一個值得關注的重要話題。最近，加州大學伯克利分校(UC Berkeley)教授唐恩·宋(Dawn Song)“欺騙”了一輛自動駕駛汽車，讓它以為停車標志上的限速是每小時45英里。

這種性質的惡意攻擊很容易導致致命的事故。同樣地，受損的算法數據可能導致錯誤的生物醫(yī)學研究，重則危及生命或影響醫(yī)學事業(yè)的創(chuàng)新發(fā)展。

直到最近，人們才意識到對抗性數據的威脅，我們不能再忽視它了。

關鍵詞：