人民網>>人民創投

防人臉識別濫用需“約法三章”

2019年11月20日08:28  來源:新京報

為避免普通人在人工智能時代裸奔,是時候對人臉識別活動“約法三章”了。

最近,從AI視頻監控進課堂、“ZAO”APP換臉到“人臉識別第一案”,人臉識別技術帶來的安全隱患為輿論所關切。

而新京報昨天刊發的調查報道,則進一步坐實了公眾的“人臉焦慮”。調查發現,網上有一些私下售賣人臉數據的賣家,有發帖者稱8元可買3萬張人臉照片,有賣家表示可以提供“更多渠道”的人臉圖片。還有賣家表示,其出售的照片大部分來自朋友圈,且沒有取得對方同意。

一方面,海量的人臉數據是AI學習不可或缺的原材料,另一方面,這些數據時刻伴隨的泄露風險也值得引起關注。

人臉識別技術隨時有被濫用的風險

人臉識別技術的研發已有多年,在身份驗証、鎖定嫌犯、移動支付、智能門禁、刷臉購物等方面的應用的確帶來諸多創新,極大提高了安全、監管和商業等活動的效率,讓生活更便捷。

但面對雨后春筍般亂入各種生活場景的人臉識別鏡頭,人們難免心生疑惑——人臉識別所採集的數據如何保存和不被泄露?萬一被不法分子“爬去”,可能會對自己的人身和財產安全帶來哪些危害?如果存在濫用的風險,普通人有沒有控制自己數據的權力?

人們的疑惑在很大程度上源於人臉信息的特殊性。一般認為,當人臉圖片或視頻用於識別個人身份時,就應該被視為生物識別數據或生物特征數據,一旦泄露就難免濫用。人們既無法事先預見其可能的有害用途,受到侵害后也難以追溯相關責任和尋求補償。如果缺乏相應強有力的具體規范,這些問題就談不上正視和解決。

在信息化、數字化和智能化的發展進程中,為了鼓勵創新,相關政策對新興技術發展多採取包容審慎的策略。這一實踐智慧極大地推動了研究機構和企業在應用領域的創新,人臉識別忽如一夜春風來的發展態勢亦源於此。

同時,面對新技術發展的社會影響和倫理法律問題,有關部門已經認識到對其加強監管和規范的必要,頒布了人工智能治理原則等治理舉措。對於普通人來說,最朴素不過的念頭是,總不能說誰都可以讓你面對人臉識別鏡頭。不無吊詭的是,即便是人臉識別科技公司的高管,應該也不會希望時刻被識別和記錄。

是時候對人臉識別活動“約法三章”了

不難想象,如果有人戴上有人臉識別功能的增強現實眼鏡,通過與你相關的各種數據和數據畫像的聚合,就能把你看個底兒掉。為避免普通人在人工智能時代裸奔,是時候對人臉識別活動“約法三章”了。

首先,人臉識別技術應用的底線是,除了特定部門的執法活動之外,任何機構、企業和個人都無權通過人臉識別調查和追蹤個人的私人生活。隻有確定這一底線,才能從根本上消除普通人的疑惑,才能讓人們安心於智能化生活。

其次,要在產業和行業等層面,對人臉識別的具體應用制定詳細、嚴格的法律規范和倫理規約,以確保人臉識別技術在全生命周期中得到安全和負責任的運用。更要以此有效促使相關人臉數據的採集、保留和應用等過程的公開透明、合法合規。相關技術領先和行業標杆企業有責任發揮其引領作用,推動整個行業的最佳合規實踐。

其三,推動社會討論,加強公眾參與,促進多元共治。一方面,應上升到國家治理體系和治理能力的高度,全面考量全社會多方利益的協同,實現多元共治。另一方面,要通過科技傳播增進公眾對科技的理解與參與,通過“數據素養”和“算法意識”的養成、優化創新的用戶體驗和獲得感,使整個社會能合理運用人臉識別等新興科技。

不論未來將是一個怎樣的“美麗新世界”,都取決於每個普通人的意識和行動。當前,科技創新不斷刷新人們的生活方式,頻繁地帶來價值沖突與倫理挑戰,唯有強化對人臉識別之類新技術的規范和治理,讓每個人更自主、公平和自在地享受創新紅利,使普通人更有尊嚴地面對技術,才能有效化解人們內心普遍存在的疑慮,賦予平常人更大的創造美好生活的自由空間,讓他們更安心地擁抱層出不窮的創新應用。

□段偉文(中國社科院科學技術和社會研究中心主任)

(責編:黃玲麗、陳鍵)

深度原創

特別策劃

    第二屆內容科技大賽總決賽 人民戰“疫”內容科技大賽 首屆人民網內容科技大賽總決賽 人民網內容科技創業創新長三角決賽
二維碼