央視“3·15”晚會將人臉識別的商場應用推向了風口浪尖。近日，張家港市場監管局通報稱，發現轄區內一家名創優品門店裝有“3·15”晚會曝光的非法采集顧客人臉信息的“萬店掌”監控。執法人員發現，店長手機APP中的人臉識別功能仍在使用。3月22日，名創優品工作人員表示，將第一時間整改下架人臉識別監控系統。
如何看待人臉識別在商場、小區等場所應用引發的爭議？在數字化轉型過程中，如何保持隱私保護與產業發展的平衡？近日舉行的上海交通大學計算法學與AI倫理研究中心研討會上，解放日報·上觀新聞記者采訪了學術界、政府智庫和產業界的三位專家。
人臉識別監管可采取備案制
上海交通大學中國法與社會研究院院長季衛東、上海市科學學研究所科技與社會研究室主任王迎春指出，人臉屬于生物識別信息，具有不可篡改性，在信息采集、傳輸、存儲等管理鏈上的任何一個環節出現問題，造成的社會危害往往很難逆轉。而且與指紋、虹膜等生物識別信息不同，人臉識別是無感采集，就像“3·15”晚會曝光的場景那樣，顧客在不知情的情況下就被采集了人臉。隨后，“萬店掌”能識別顧客的性別和年齡段，并根據人臉數據比對，將顧客打上“新顧客第一次到店”“熟客，第11次到店”“會員”等標簽?！叭四樞畔⒌牟杉仨氉裱橥庠瓌t，所以商場將人臉識別用于精準營銷，是非法采集行為?！奔拘l東教授說。
如果被采集者知情并同意，企業是否就不受約束了呢？絕非如此。兩位專家表示，人臉數據的傳輸、儲存、運用等環節如果出現信息泄露等問題，潛在的社會危害會很大，如引發利用人臉數據偽造證件的新型犯罪。
對此，王迎春建議國家和地方政府采取人臉識別備案制，并盡早發布人臉數據管理平臺標準?！吧镝t藥領域的臨床試驗采取備案制，一旦出現問題，政府就能追溯調查。對于人臉識別的商業應用，我們也可采取備案制這種監管模式。”王迎春解釋說。
人臉數據管理平臺標準對政府監管也很重要，有了國家、行業或地方標準，就能更科學、嚴格地評估數據庫和云平臺的安全性，企業必須達標，才能獲得儲存人臉數據的資質?！霸谌四樧R別監管方面，上?？上刃刑剿?，比如參照醫療大數據由申康中心管理的做法，將大多數企業采集的人臉數據交由一個可信平臺進行統一管理。”
在季衛東看來，上?？稍诔闪⑹写髷祿行牡幕A上建設“數據銀行”。這是一類構建在高速分布式存儲網絡上的數據中心，作為中立的信托結構，對各類數據進行脫敏和存儲。“個人可以將自己的數據存到‘數據銀行’，銀行支付給個人利息，并將脫敏數據提供給企業有償使用。”建設“數據銀行”，有利于在確保數據安全可信的情況下，實現數字經濟的利益分配公平，讓數據所有人獲得經濟回報。
企業自律應遵循三個原則
除了加強政府監管，企業自律對人臉識別的安全應用也很重要。商湯科技智能產業研究院院長、上海交通大學計算法學與AI倫理研究中心聯袂主任田豐認為，人工智能企業應遵循“透明、負責、友好”三個原則?！巴该鳎褪且浞直ＷC人臉信息被采集者的知情權，采集前必須獲得授權，采集后應有健全的保護機制，防止數據泄露。”田豐解釋，“負責，是指產品開發的所有步驟必須可靠、可追溯，還要有風險防范措施。友好，指人工智能的算法、應用開發和使用都是善意的，把滿足人民對美好生活的向往作為科技創新的落腳點?！?/p>
企業的健康發展也離不開政府的科學管理。田豐建議政府對數據實施分級分類管理，對生物特征、個人醫療健康等隱私性很強的數據嚴加保護；對與個人隱私關聯度較低的產業數據，可在脫敏后有條件地開放，釋放其產業創新價值。
“在人臉識別應用的一些爭議問題上，可由第三方機構開展用戶調研，了解公眾對各種人臉識別應用場景的具體需求，以及支持、反對比例?！碧镓S說。例如在小區門禁使用人臉識別這個問題上，居民的態度到底如何？可開展調研。
在邯鄲一個小區，居民通過人臉識別經過出入口。新華社發
相關法律制定要保持平衡
季衛東的觀點與田豐有些相仿。他認為，在相關法律制定上，要防止數據權利和隱私保護措施的過激化、僵硬化。“這方面的法律制定應保持規制與產業發展的平衡，并劃出清晰的倫理底線和法律底線?！眰€人信息保護固然重要，但也要兼顧大數據、人工智能、互聯網等產業的發展?！艾F在是人工智能的寒武紀，新的智能物種在大量涌現。為了新興產業發展，我們要‘硬法’和‘軟法’結合，在嚴格遵守法律原則和規則的基礎上，因勢利導、綜合治理，促使企業加強內部管理和倫理培訓。”
據了解，全國人大法工委去年10月公開就《中華人民共和國個人信息保護法（草案）》征求意見。草案對處理包括人臉等生物特征在內的敏感個人信息作出規定：只有在具有特定目的和充分必要性的前提下，方可處理敏感個人信息，并要求“向個人告知處理敏感個人信息的必要性以及對個人的影響”。
“以人為本的數字化轉型應遵循三個原則：效率、溫度、舒適?！蓖跤赫f，“在追求創新效率的同時，政府和企業要考慮老年人、殘疾人等弱勢群體的體驗，讓數字化轉型有溫度。還要考慮轉型的舒適度，防止人臉識別等技術對個人隱私的侵犯?！痹谒磥?，溫度、舒適與效率并不矛盾，可信安全人工智能孕育著巨大的藍海市場，有待廣大企業開發以人為本的技術解決方案。
