當(dāng)你的朋友打來(lái)視頻電話，自然流露著熟悉的表情、聲音、語(yǔ)調(diào)……這時(shí)，你會(huì)懷疑畫(huà)面中就是你的朋友本人嗎?你會(huì)認(rèn)為眼見(jiàn)必定為實(shí)嗎?

近日，福州一家科技公司的老板郭某，接到一位好友的微信視頻邀請(qǐng)，對(duì)方說(shuō)自己的朋友在外地競(jìng)標(biāo)，需要430萬(wàn)元的保證金，想走他公司的賬戶過(guò)個(gè)賬。郭老板在視頻通話中確認(rèn)了人和聲音都是他的朋友之后便同意了。隨后，對(duì)方就給郭老板發(fā)了一張銀行卡轉(zhuǎn)賬成功的截圖，說(shuō)是錢(qián)已經(jīng)轉(zhuǎn)到郭老板的賬戶中。由于郭老板之前已經(jīng)在視頻通話中確認(rèn)了朋友的身份，并未起疑，在沒(méi)有確認(rèn)錢(qián)到賬與否的情況下，沒(méi)有多想，直接將430萬(wàn)轉(zhuǎn)到了好友的銀行卡上。整個(gè)過(guò)程僅用短短的十分鐘……

轉(zhuǎn)賬完成后，郭老板打電話跟朋友確認(rèn)錢(qián)是否到賬，才發(fā)現(xiàn)自己中了騙子的圈套!經(jīng)過(guò)警方的調(diào)查取證分析，郭老板是被犯罪分子利用人工智能深度合成換臉、變聲技術(shù)，實(shí)施了電信詐騙。幸運(yùn)的是，接到郭某的報(bào)警后，福州、包頭兩地警銀迅速啟動(dòng)止付機(jī)制，成功攔截了336.84萬(wàn)元，但仍有96.16萬(wàn)元被轉(zhuǎn)移 ，目前仍在全力追繳中。

近年來(lái)，人工智能各項(xiàng)技術(shù)飛速發(fā)展，應(yīng)用更加普及多元。其中，深度合成和生成式AI技術(shù)作為人工智能領(lǐng)域的創(chuàng)新應(yīng)用技術(shù)，以其較低的應(yīng)用門(mén)檻、較強(qiáng)的娛樂(lè)屬性、豐富的應(yīng)用場(chǎng)景備受關(guān)注。AI“換臉”、AI繪畫(huà)、虛擬主播等為人所熟知的場(chǎng)景都使用了深度合成和生成式AI技術(shù)。

在深度合成和生成式AI技術(shù)向社會(huì)生活的各個(gè)領(lǐng)域滲透之時(shí)，AI安全的負(fù)面風(fēng)險(xiǎn)持續(xù)加劇且產(chǎn)生實(shí)質(zhì)危害。隨著深度合成和生成式AI技術(shù)的開(kāi)放開(kāi)源、深度合成和生成產(chǎn)品及服務(wù)的增多，此類內(nèi)容制作的技術(shù)門(mén)檻越來(lái)越低，實(shí)現(xiàn)了技術(shù)的“平民化”。通過(guò)深度合成和生成式AI技術(shù)偽造音視頻圖像進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為已屢見(jiàn)不鮮。

阻止AI濫用，防止AI作惡，也需發(fā)揮技術(shù)能力，用“魔法”打敗“魔法”。作為國(guó)投集團(tuán)數(shù)字/科技板塊的重要企業(yè)、國(guó)內(nèi)電子數(shù)據(jù)取證行業(yè)龍頭和公共安全大數(shù)據(jù)領(lǐng)先企業(yè)、網(wǎng)絡(luò)空間安全與社會(huì)治理領(lǐng)域國(guó)家隊(duì)，美亞柏科2017年成立AI研發(fā)中心，深度開(kāi)展人工智能技術(shù)研究。為了應(yīng)對(duì)利用人工智能技術(shù)可能帶來(lái)的安全問(wèn)題，2019年針對(duì)深度合成技術(shù)又特別成立專項(xiàng)研究團(tuán)隊(duì)(下稱“專項(xiàng)團(tuán)隊(duì)”)。

專項(xiàng)團(tuán)隊(duì)通過(guò)對(duì)深度合成和生成式AI技術(shù)的深入研究以及在人工智能安全方向的經(jīng)驗(yàn)積累，自主研發(fā)深度偽造視頻圖像檢測(cè)鑒定的核心引擎，打造出一系列視頻圖像檢測(cè)鑒定的一體化智能裝備，如“AI-3300慧眼視頻圖像鑒真工作站”等。

AI-3300"慧眼"視頻圖像鑒真工作站是一款以人工智能技術(shù)為核心的視頻圖像檢驗(yàn)鑒定設(shè)備，配備了美亞柏科人工智能團(tuán)隊(duì)自主研發(fā)的核心AI智能檢測(cè)引擎，支持當(dāng)前絕大部分深偽視頻圖像篡改方法的檢測(cè)，檢測(cè)精度處于國(guó)內(nèi)領(lǐng)先水平。

該設(shè)備涵蓋40余種視頻圖像真?zhèn)舞b定算法，近10種深偽鑒定算法，同時(shí)具有智能鑒定和專業(yè)鑒定兩種鑒定模式，支持卷宗管理和三種鑒定文書(shū)生成，為司法鑒定人員提供一站式視頻圖像檢驗(yàn)鑒定服務(wù)。它不僅對(duì)利用傳統(tǒng)偽造手段篡改的影像能生成理想的鑒定效果，而且對(duì)利用深度偽造技術(shù)進(jìn)行換臉、美顏、生成人臉、同圖或異圖復(fù)制篡改的影像具有十余種理想的鑒定效果。"慧眼"視頻圖像鑒真工作站可為公安、司法行業(yè)及相關(guān)領(lǐng)域的技術(shù)人員和影像鑒定人員提供一站式影像真?zhèn)螜z驗(yàn)鑒定解決方案。

未來(lái)，美亞柏科將聚焦生成式人工智能和AI生成內(nèi)容的檢測(cè)識(shí)別技術(shù)，踔厲奮發(fā)，持續(xù)發(fā)力，按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理辦法》(征求意見(jiàn)稿)的管理要求，針對(duì)深度合成文本、視頻、圖像的檢測(cè)鑒定技術(shù)、生成式人工智能技術(shù)、人工智能安全取證技術(shù)等方面的應(yīng)用需求，不斷打磨推出更為安全、可信、可靠的人工智能技術(shù)產(chǎn)品，為打擊利用人工智能的新興涉網(wǎng)犯罪，提供有力的技術(shù)武器，為維護(hù)和保障人工智能的健康發(fā)展和規(guī)范應(yīng)用貢獻(xiàn)力量!

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎!此文僅供參考，不作買(mǎi)賣(mài)依據(jù)。

關(guān)鍵詞：