深度學習被譽為一個革命性的工具，在放射學支持更快、更準確、更詳細的臨床建議。

幾乎每天研究人員都會發(fā)布新的研究結果，顯示人工智能有可能幫助人類工作，其中許多模型已經(jīng)達到或者超過了訓練有素的醫(yī)生的能力。

但是，如果好奇的研究人員或者圖謀不軌的人把這些成果用來對付他們應該幫助的臨床醫(yī)生，那該怎么辦?

利用深度學習偽造醫(yī)學圖像并不困難

以色列一個研究小組的一項新研究表明，利用深度學習來偽造癌癥腫瘤的醫(yī)學圖像，并在大多數(shù)情況下能夠很輕松的騙過即使是最好的放射科醫(yī)生。

這個團隊解釋了如何成功地滲透到一個典型的醫(yī)療系統(tǒng)的PACS(影像歸檔和通信系統(tǒng))中，并使用一種叫做生成對抗性網(wǎng)絡(GAN)的機器學習的惡意軟件來改變MRI或CT掃描圖像，從而讓正常人的圖像中出現(xiàn)腫瘤或者讓癌癥病人的圖像中移除真正的癌癥。

這些在政治和社會領域日益受到關注的“Deep fake”可能會對患者的治療結果產(chǎn)生重大影響。

研究小組解釋說：“由于3D醫(yī)學掃描成像是醫(yī)生判斷患者病情的強有力證據(jù)，因此能夠對掃描進行攻擊的黑客將有能力改變病人的診斷結果。”

例如，黑客可以增加或消除動脈瘤、心臟病、血栓、關節(jié)炎、軟骨問題、腦、心臟等其他癌癥證據(jù)。

進行這種攻擊有很多動機，研究人員表示，黑客可能希望通過嚴肅的健康診斷來影響選舉結果或推翻政治人物，甚至他們可能會更大規(guī)模地改變醫(yī)療圖像，并持有原始數(shù)據(jù)以索取贖金。

個人可以利用這些策略進行保險欺詐或隱瞞謀殺，研究人員或藥物研發(fā)人員可以偽造他們的數(shù)據(jù)來獲得想要的結果。

研究小組指出，數(shù)百個常用的PACS系統(tǒng)都有不安全的網(wǎng)絡連接，可以提供一個簡單的攻擊載體，醫(yī)療保健黑客的創(chuàng)造力似乎是無止盡的。

惡意偽造數(shù)據(jù)后果重大

研究人員使用一臺低于50美元的普通電腦Raspberry Pi對一家真實醫(yī)院的系統(tǒng)進行了模擬攻擊。

“Pi 配置了一個usb到以太網(wǎng)適配器，并配置為無源網(wǎng)橋(沒有網(wǎng)絡標識符) ，”研究小組說。 “Pi 還被配置為一個用于后門訪問的隱藏 Wi-Fi 接入點。”

“我們還打印了CT掃描儀制造商的3D 標志，并把它粘在圓周率儀上，使它不那么引人注目。”

雖然參與的醫(yī)院完全了解該小組的活動并同意進行試驗，但是醫(yī)院還是被這種低成本的巨大破幻力感到吃驚。醫(yī)療保健組織對黑客實際安裝硬件并進入網(wǎng)絡的方便程度感到擔憂。

同樣令人擔憂的是深度學習模型所產(chǎn)生的的圖像的真實性。即使放射科醫(yī)生知道圖像可能已經(jīng)被改變，他們也很難辨認出圖像哪里被改變了。

當三位經(jīng)驗豐富的臨床醫(yī)生沒有被告知他們看到的是“偽造”的肺癌腫瘤圖像時，他們99%認為這是癌癥。

“當被問及這個問題時，除了放射科醫(yī)生注意到一個移除區(qū)域有一些異常外，其他兩位醫(yī)生沒有發(fā)生任何異常。”研究小組說道。

放射科醫(yī)生也確信這種“偽造”的圖像是非常嚴重的。

“至于偽造的癌癥，放射科醫(yī)生的共識是，三分之一醫(yī)生表示需要立即進行手術，所有醫(yī)生表示都需要后續(xù)治療。”

對于消除了真實腫瘤的圖像，94%的放射科醫(yī)生沒有發(fā)現(xiàn)任何問題。即使放射科醫(yī)生被警告說有些圖像可能被改變，但是他們?nèi)匀粫稿e誤。臨床醫(yī)生沒有注意到他們看到的腫瘤有61%是假的，87%的醫(yī)生沒有發(fā)現(xiàn)真實的腫瘤已經(jīng)被消除。

此外，參與的放射科醫(yī)生對于他們的決定并不是很有信心。當被問及他們是否確診了真假癌癥時，所有的臨床醫(yī)生都表現(xiàn)出了嚴重的懷疑。

這種方法甚至100%愚弄了一個基于人工智能的臨床決策支持工具。這讓那些人工智能的支持者感到震驚，但是他們相信人工智能可以更有效地發(fā)現(xiàn)人為錯誤，并提高決策的準確性。

保護醫(yī)療數(shù)據(jù)刻不容緩

隨著人工智能變得越來越復雜、醫(yī)療系統(tǒng)中勒索軟件攻擊和數(shù)據(jù)泄露事件的增加，這些卑鄙的、創(chuàng)新性的威脅可能會變得越來越普遍。

公司和組織不得不小心翼翼地保護他們的基礎設施，并付出極大的代價來幫助人們?nèi)绾卧谝粋€深度學習可以用來篡改幾乎任何東西的世界中辨別真相。

“這篇論文就是想告訴人們一個事實，并警醒他們：如果人類專家和先進的人工智能完全相信他們的觀察結果，他們就有可能被愚弄。”研究小組繼續(xù)說道，“我們希望這篇論文和補充的數(shù)據(jù)能夠幫助產(chǎn)業(yè)界和學術界應對這一新出現(xiàn)的威脅。”

關鍵詞：