2024-02-14 11:47
痛失2億港元！警方通報：香港一跨國公司慘遭「AI換臉」線上詐騙，公司上下竟無一人察覺
AI換臉技術的發(fā)展，已經引起了警方的高度重視。?
據香港媒體2月4日報道，??香港警方披露境內首宗多人換臉AI技術詐騙案，一家總部位于英國的跨國公司的香港分公司被AI換臉技術的一段視頻，直接騙走2億港元。
該詐騙集團首先在網上搜集這家受害單位的英國總部一眾高層出鏡的視頻素材，該公司在YouTube平臺發(fā)布公開視頻，騙子逐步收集面部數據和聲紋數據。
然后通過Deepfake深度偽造技術，將騙子提前準備好的詐騙視頻，換上多名該公司總部高層的面部與聲音。
再按劇本制作了一段“高層發(fā)言”的釣魚視頻，以公司的“CFO首席財務官”名義發(fā)出釣魚信息，邀請香港分公司的職員參加線上會議。??
會議期間，?屏幕上出現了4-5位總部公司的高層，“CFO”指示香港分公司職員進行自我介紹，其他偽裝的高層簡短“討論”公司的交易決策，并與“CFO”跟進香港分公司的匯款事宜。
通過劇本循循善誘，指揮香港職員分15次，將共計2億港元的現金轉賬到5個本地銀行戶口。
不幸的是，由于與會的高層都被集體「換臉」，加上聲音很相似，本著「眼見為實」，香港方面的職員不虞有詐放下戒備心。
香港分公司的財務人員直至事后向總部確認打款?，才知道受騙。
香港警方深入調查發(fā)現，本案的「AI換臉」有幾個特點：
1??為了讓受害者深信不疑，騙子采取「多人換臉」的方式增加可信度?
2??騙子制作的英國總部高層的偽造發(fā)言視頻，都是提前根據腳本錄制的視頻片段，所以視頻會議上并不會與香港的職員互動，但是也不提供發(fā)言機會
3??為了避免露出馬腳，視頻會議在數分鐘內結束?
4??所謂的總部高層現身下達指令，只是要給香港職員營造一個「最高指示」的場景，接納自上而下的決策
通過本案我們可以發(fā)現，該公司的職員缺乏自我判別能力，一味照辦高層“決策”釀成大錯。
香港警方強調，科技發(fā)展一日千里，市民時刻保持警惕，養(yǎng)成一個防詐的習慣，對任何社交平臺軟件所收到信息，都要有一個防備心。
??尤其是，那些涉及到金錢往來的信息！?
謹記在人工智能「Deepfake深度偽造」下，網上已經不是「眼見為實，有圖有真相」。
相關文章
Altman
Kardashian
雷小軍
