近日,福建省福州市某科技公司法人代表郭先生10分鐘內被詐騙分子利用AI換臉詐騙430萬元。主要原因是郭先生基于已有和對方偽裝的“好友”視頻聊天的信任,且對方表示只想公對公賬戶過賬,并已將銀行轉賬截圖發(fā)了過來,郭先生就直接轉賬了。隨后,郭先生撥通好友電話告知轉賬成功,結果對方說沒有這回事,他這才意識到遇上了騙局(據(jù)5月20日“平安包頭”微信公眾號消息)。
不寒而栗,是很多人看到這則案例的第一感受。這意味著,關乎借錢、轉賬等金錢交易安全的網絡視頻和語音的面孔、聲音確認,幾乎已不能支撐身份核驗,現(xiàn)代社會的信任體系在逐步被技術所侵蝕。
這個案件中,有很多細節(jié)讓人細思極恐。第一,詐騙分子盜取郭先生好友的微信,并與郭先生視頻提出高額資金轉賬,這首先需要明確郭先生的確有此經濟實力。盜取一個人的微信,并知道他微信好友的資產,這些隱私信息都是如何泄露的?第二,詐騙分子盜取郭先生好友的微信,并通過AI換臉與郭先生視頻。視頻結束,郭先生轉賬結束后,再發(fā)微信給好友時,微信的掌控者已切換回郭先生好友了。微信“了無痕跡”地失竊又“悄無聲息”地返還,這種新的微信盜取方式是如何實現(xiàn)的,值得公安機關重點關注。第三,該案中當事人報警后,福建福州、內蒙古包頭兩地警銀成功止付攔截了336.84萬元,但仍有93.16萬元被轉移。視頻對話尚可作假,如果連郭先生好友的電話也被犯罪分子利用技術所控制,例如通過騷擾電話錄音等來提取某人聲音,獲取素材后偽造聲音,那將真是做戲做全套的詐騙,恐怕這次資金的攔截將更無時間和可能性了。
那么,未來面對重要事務,但遠距離的人們打電話、打視頻都無法證明對方確實是其本人時,該如何防止和避免AI換臉詐騙?綜合近期出現(xiàn)的案例和有關專業(yè)人士的介紹,筆者幫大家總結了幾個防范AI換臉技術的識別方式:一是要求對方用一根手指在面前來回晃動。因為目前犯罪分子利用AI算法換臉時多使用正面照,而不少算法程序還不能處理好突然在面前出現(xiàn)的物體,當有手指等在面前晃動時,AI假臉可能會出現(xiàn)不自然的跳動或變形。二是打視頻時看對方的眼睛。目前,部分AI假臉是利用睜眼照片,通過人體圖像合成技術生成的,有些假臉眨眼的頻次明顯少于正常人,而有些甚至不會眨眼。三是向其詢問只有你們雙方知道的事情。涉及借錢等要緊事,可拿出平常的生活細節(jié)、小秘密等只有兩個人或少數(shù)人知道的事來確定對方的身份。用“友誼和愛”打敗“魔法”,這是現(xiàn)實生活給技術負面影響最沉重的一擊。
除了我們個人的努力外,國家有關部門和AI技術服務平臺也應不斷提升監(jiān)管技術水平。盡管去年12月《互聯(lián)網信息服務深度合成管理規(guī)定》已出臺,近期也有平臺和企業(yè)發(fā)布了“關于人工智能生成內容的平臺規(guī)范暨行業(yè)倡議”,但接下來AI技術服務平臺及時監(jiān)測并制止利用AI發(fā)布侵權內容、創(chuàng)作詐騙內容等情況,仍任重道遠。各級網信部門和公安部門要依據(jù)各自職責,提升監(jiān)督管理工作和技術水平。各級執(zhí)法司法部門在破獲案件后,應及時總結新型犯罪途徑和防范方式,以發(fā)布典型案例等形式,方便社會大眾廣泛了解社會動態(tài),掌握相應的知識,提高防范意識和自我保護水平。
被AI換臉詐騙侵蝕的信任,還得靠多方努力來找回,畢竟,單靠個人提高鑒別詐騙的能力,是永遠趕不上技術發(fā)展速度的。
北疆新聞:內蒙古自治區(qū)重點新聞網站(客戶端),內蒙古出版集團新華報業(yè)中心旗下國家互聯(lián)網新聞信息采編發(fā)布服務一類資質網站(客戶端)。
北疆新聞版權與免責聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權均屬北疆新聞所有,轉載時必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網傳播該消息,并不代表贊同其觀點。
如因作品內容、版權和其它問題需要同本網聯(lián)系的,請在見網后30日內進行,聯(lián)系郵箱:bjwmaster@163.com。
版權聲明:北疆新聞版權所有,未經書面授權,不得轉載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞網 All Rights Reserved互聯(lián)網新聞信息服務許可證:15120200009-1蒙公網安備:15010502001245