昨日媒體報道，造車新勢力小鵬汽車因線下門店擅自采集43萬張消費者的人臉照片被罰款10萬元，這一數(shù)量遠超被3·15點名的寶馬汽車的100倍。
無獨有偶，兩天前也有一則關于人臉識別的新聞——廣西合浦人黃某輝趁女友熟睡時，用其指紋解鎖手機，翻開對方眼皮，用人臉識別功能驗證進入對方支付賬戶，轉走15.41萬元……最終，黃某輝被判處有期徒刑三年六個月，并處罰金人民幣2萬元。
兩起案例中，前者是上市公司，采購并使用違反相關法律條款的第三方供應商“盜取”顧客的臉。后者則是趁對方防備不佳，利用人臉識別實施犯罪。
這不禁讓人思考，那些被偷走的“臉”，存在哪些安全隱患？誰才是背后的“推手”？
為什么“盜臉”事件頻發(fā)？
根據(jù)徐匯區(qū)市場監(jiān)督管理局處罰文件，2019年3月1日，小鵬汽車與某公司簽訂《小鵬汽車門店客流監(jiān)測項目框架合同》，花費173822.77元購買相應的門店客流監(jiān)測項目服務，用以進行門店客流統(tǒng)計和分析，對進店人數(shù)、男女比例、年齡及購買力等進行分析，用以輔助開展門店銷售。
事發(fā)后，小鵬汽車表示，由于對相關法律條款的不熟悉，誤采購并使用了違反了相關法律條款的第三方供應商(悠洛客)的產(chǎn)品。同時其對本次行政處罰表示完全服從，并對此事做出深刻反省。
小鵬汽車盜臉事件發(fā)生后，網(wǎng)友們調(diào)侃道，“以后去買車，是不是要戴面具了？”。也有網(wǎng)友直接呼吁稱，“希望國家可以控制下大數(shù)據(jù)，一想到每時每刻都有人在偷窺，真覺得細思極恐?！?/p>
另有分析人士指出，小鵬汽車此次行為可能包含多種原因，一方面可能是為改善接待流程，更好地服務于到店客戶。另一方面，也很可能是尋找潛在買家，主動進行精準推銷。
而對于男子趁沉睡中的女友防備不佳刷臉盜走15萬資金一事，網(wǎng)友們也義憤填膺。“我早就強烈建議取消指紋、刷臉開機支付功能了，這只是盜竊存款，更恐怖的是用手機發(fā)信息給債權人確認債務，債務是個無底洞”，廣東廣強律師事務所律師吳杰臻評價指出。更有網(wǎng)友直接評價道，“網(wǎng)絡安全現(xiàn)在有好多隱患，加強防范，最好不要用指紋和人臉識別”。
當然，上述有些說法過于偏激。但人臉識別技術，到底有哪些安全隱患？
人工智能安全企業(yè)瑞萊智慧高級產(chǎn)品經(jīng)理張旭東告訴新浪科技，由于人臉識別技術主要由數(shù)據(jù)和算法驅動，不像人一樣具有常識和應急能力，這導致的結果是，人臉識別技術在實際運用過程中，對于突發(fā)事件與認知盲區(qū)，往往不能很好地應對，“即使是在面臨沉睡中的人員眼皮被翻開的情況下，也能做出通過驗證的錯誤決策”。
還有更極端的情況。他透露，一些人臉識別系統(tǒng)甚至于會出現(xiàn)在不眨眼的情況下，用筆桿從面部晃一晃便能被識別為眨眼，并最終通過驗證的情況。
他坦言，在實際的技術采用過程中，為了保證人臉識別系統(tǒng)的用戶體驗度，技術使用方往往更看重人臉識別系統(tǒng)的驗證通過率，而不是因為過于嚴苛的識別問題，讓很多人通過不了驗證。而這導致的結果是，為了保證“通過率”和真人不被誤判，技術人員往往會犧牲一定的技術識別準確性，轉而看重通過率，而這也導致了人臉識別技術驗證準確率的下降。
“試想，如果一家服務超過10萬人的企業(yè)可以毫無底線地收集顧客人臉等數(shù)據(jù)信息，那如果這些數(shù)據(jù)被網(wǎng)絡黑客惡意攻擊并獲取后，其產(chǎn)生的負面影響，恐怕將不再僅僅只是隱私泄露這么簡單?！睒I(yè)內(nèi)人士對新浪科技說道。
畢竟在此之前，一些有關于“醫(yī)?？ū蝗四樧R別盜刷”、3D面具騙過人臉識別系統(tǒng)盜刷的新聞報道，便已層出不窮。一些網(wǎng)絡黑產(chǎn)從業(yè)者，甚至還利用電商平臺批量倒賣非法獲取的人臉等身份信息和“照片活化”網(wǎng)絡工具等，以開展非法盈利。
張旭東講述了一個親身案例。他表示，有不法分子利用AI圖片活化工具生成3D圖像，騙過銀行系統(tǒng)并直接騙走逾千萬元資金，而銀行始終未察覺，直至用戶發(fā)現(xiàn)后，銀行才得知系統(tǒng)遭遇“詐騙”。
“在銀行系統(tǒng)提取出的一些后臺辦卡審核信息中，甚至還帶有一些圖像合成軟件制作的水印痕跡，但因為當時審核人員檢查不仔細，并沒有發(fā)現(xiàn)這是非法詐騙辦卡”，張旭東說道。
而在此之前，安徽省合肥警方偵破的一起案件中，作案人員也曾利用AI人工智能技術，非法偽造他人人臉動態(tài)視頻，欺騙電信運營商后臺審核人員完成手機卡注冊，而這些注冊好的手機卡，最終被賣給犯罪團伙用于電信網(wǎng)絡詐騙、網(wǎng)絡賭博、洗錢等犯罪活動。
據(jù)報道，在嫌疑人制作的視頻中，人物是可以依照輸入的指令做出眨眼、張嘴、皺眉等多種精細動作，模仿人物表情變化。而且為了實現(xiàn)以假亂真，人物的劉海還能不時隨風飄動來模擬拍攝時的輕微晃動，有的視頻背景也是可以動的，畫面效果非常逼真。
“將一張靜態(tài)的自拍照輸入軟件后，嫌疑人只需要數(shù)十秒就能夠將照片變?yōu)橄鄳膭討B(tài)視頻，可以念數(shù)字而且能做到實時的，看起來難以置信的事情，通過軟件在很短的時間內(nèi)就能完成”。
人臉識別是一把雙刃劍。隨著監(jiān)管對于用戶隱私及數(shù)據(jù)保護的越來越為重視，用戶們對于隱私泄露事件的容忍度越來越低，經(jīng)歷過野蠻生長的人臉識別技術及相關企業(yè)，也將不斷地被置于監(jiān)管和輿論的風口浪尖之中。
小鵬汽車以及刷臉盜竊這兩起案件之后，或許還將會有更多采用人臉識別技術的企業(yè)主體被公之于眾，接受法律的懲戒與輿論譴責。新興技術的發(fā)展固然為人們帶來了便利，但也確實產(chǎn)生了新的威脅。對于更多的開發(fā)人員與技術采用者而言，技術的發(fā)展可以中立，但將技術運用于何種領域與場景，都需要業(yè)內(nèi)的合規(guī)思考與監(jiān)管機制來約束。
本文來自微信公眾號“新浪科技”（ID:techsina），作者：努力碼稿的小浪，36氪經(jīng)授權發(fā)布。
