昨日媒體報道,造車新勢力小鵬汽車因線下門店擅自采集43萬張消費者的人臉照片被罰款10萬元,這一數(shù)量遠超被3·15點名的寶馬汽車的100倍。
無獨有偶,兩天前也有一則關于人臉識別的新聞——廣西合浦人黃某輝趁女友熟睡時,用其指紋解鎖手機,翻開對方眼皮,用人臉識別功能驗證進入對方支付賬戶,轉走15.41萬元……最終,黃某輝被判處有期徒刑三年六個月,并處罰金人民幣2萬元。
兩起案例中,前者是上市公司,采購并使用違反相關法律條款的第三方供應商“盜取”顧客的臉。后者則是趁對方防備不佳,利用人臉識別實施犯罪。
這不禁讓人思考,那些被偷走的“臉”,存在哪些安全隱患?誰才是背后的“推手”?
為什么“盜臉”事件頻發(fā)?
根據(jù)徐匯區(qū)市場監(jiān)督管理局處罰文件,2019年3月1日,小鵬汽車與某公司簽訂《小鵬汽車門店客流監(jiān)測項目框架合同》,花費173822.77元購買相應的門店客流監(jiān)測項目服務,用以進行門店客流統(tǒng)計和分析,對進店人數(shù)、男女比例、年齡及購買力等進行分析,用以輔助開展門店銷售。
事發(fā)后,小鵬汽車表示,由于對相關法律條款的不熟悉,誤采購并使用了違反了相關法律條款的第三方供應商(悠洛客)的產(chǎn)品。同時其對本次行政處罰表示完全服從,并對此事做出深刻反省。
小鵬汽車盜臉事件發(fā)生后,網(wǎng)友們調(diào)侃道,“以后去買車,是不是要戴面具了?”。也有網(wǎng)友直接呼吁稱,“希望國家可以控制下大數(shù)據(jù),一想到每時每刻都有人在偷窺,真覺得細思極恐?!?/p>
另有分析人士指出,小鵬汽車此次行為可能包含多種原因,一方面可能是為改善接待流程,更好地服務于到店客戶。另一方面,也很可能是尋找潛在買家,主動進行精準推銷。
而對于男子趁沉睡中的女友防備不佳刷臉盜走15萬資金一事,網(wǎng)友們也義憤填膺。“我早就強烈建議取消指紋、刷臉開機支付功能了,這只是盜竊存款,更恐怖的是用手機發(fā)信息給債權人確認債務,債務是個無底洞”,廣東廣強律師事務所律師吳杰臻評價指出。更有網(wǎng)友直接評價道,“網(wǎng)絡安全現(xiàn)在有好多隱患,加強防范,最好不要用指紋和人臉識別”。
當然,上述有些說法過于偏激。但人臉識別技術,到底有哪些安全隱患?
人工智能安全企業(yè)瑞萊智慧高級產(chǎn)品經(jīng)理張旭東告訴新浪科技,由于人臉識別技術主要由數(shù)據(jù)和算法驅動,不像人一樣具有常識和應急能力,這導致的結果是,人臉識別技術在實際運用過程中,對于突發(fā)事件與認知盲區(qū),往往不能很好地應對,“即使是在面臨沉睡中的人員眼皮被翻開的情況下,也能做出通過驗證的錯誤決策”。
還有更極端的情況。他透露,一些人臉識別系統(tǒng)甚至于會出現(xiàn)在不眨眼的情況下,用筆桿從面部晃一晃便能被識別為眨眼,并最終通過驗證的情況。
他坦言,在實際的技術采用過程中,為了保證人臉識別系統(tǒng)的用戶體驗度,技術使用方往往更看重人臉識別系統(tǒng)的驗證通過率,而不是因為過于嚴苛的識別問題,讓很多人通過不了驗證。而這導致的結果是,為了保證“通過率”和真人不被誤判,技術人員往往會犧牲一定的技術識別準確性,轉而看重通過率,而這也導致了人臉識別技術驗證準確率的下降。
“試想,如果一家服務超過10萬人的企業(yè)可以毫無底線地收集顧客人臉等數(shù)據(jù)信息,那如果這些數(shù)據(jù)被網(wǎng)絡黑客惡意攻擊并獲取后,其產(chǎn)生的負面影響,恐怕將不再僅僅只是隱私泄露這么簡單?!睒I(yè)內(nèi)人士對新浪科技說道。
畢竟在此之前,一些有關于“醫(yī)??ū蝗四樧R別盜刷”、3D面具騙過人臉識別系統(tǒng)盜刷的新聞報道,便已層出不窮。一些網(wǎng)絡黑產(chǎn)從業(yè)者,甚至還利用電商平臺批量倒賣非法獲取的人臉等身份信息和“照片活化”網(wǎng)絡工具等,以開展非法盈利。
張旭東講述了一個親身案例。他表示,有不法分子利用AI圖片活化工具生成3D圖像,騙過銀行系統(tǒng)并直接騙走逾千萬元資金,而銀行始終未察覺,直至用戶發(fā)現(xiàn)后,銀行才得知系統(tǒng)遭遇“詐騙”。
“在銀行系統(tǒng)提取出的一些后臺辦卡審核信息中,甚至還帶有一些圖像合成軟件制作的水印痕跡,但因為當時審核人員檢查不仔細,并沒有發(fā)現(xiàn)這是非法詐騙辦卡”,張旭東說道。
而在此之前,安徽省合肥警方偵破的一起案件中,作案人員也曾利用AI人工智能技術,非法偽造他人人臉動態(tài)視頻,欺騙電信運營商后臺審核人員完成手機卡注冊,而這些注冊好的手機卡,最終被賣給犯罪團伙用于電信網(wǎng)絡詐騙、網(wǎng)絡賭博、洗錢等犯罪活動。
據(jù)報道,在嫌疑人制作的視頻中,人物是可以依照輸入的指令做出眨眼、張嘴、皺眉等多種精細動作,模仿人物表情變化。而且為了實現(xiàn)以假亂真,人物的劉海還能不時隨風飄動來模擬拍攝時的輕微晃動,有的視頻背景也是可以動的,畫面效果非常逼真。
“將一張靜態(tài)的自拍照輸入軟件后,嫌疑人只需要數(shù)十秒就能夠將照片變?yōu)橄鄳膭討B(tài)視頻,可以念數(shù)字而且能做到實時的,看起來難以置信的事情,通過軟件在很短的時間內(nèi)就能完成”。
人臉識別是一把雙刃劍。隨著監(jiān)管對于用戶隱私及數(shù)據(jù)保護的越來越為重視,用戶們對于隱私泄露事件的容忍度越來越低,經(jīng)歷過野蠻生長的人臉識別技術及相關企業(yè),也將不斷地被置于監(jiān)管和輿論的風口浪尖之中。
小鵬汽車以及刷臉盜竊這兩起案件之后,或許還將會有更多采用人臉識別技術的企業(yè)主體被公之于眾,接受法律的懲戒與輿論譴責。新興技術的發(fā)展固然為人們帶來了便利,但也確實產(chǎn)生了新的威脅。對于更多的開發(fā)人員與技術采用者而言,技術的發(fā)展可以中立,但將技術運用于何種領域與場景,都需要業(yè)內(nèi)的合規(guī)思考與監(jiān)管機制來約束。
本文來自微信公眾號“新浪科技”(ID:techsina),作者:努力碼稿的小浪,36氪經(jīng)授權發(fā)布。