經(jīng)濟觀察網(wǎng) 記者 沈怡然 6月21日，北京瑞萊智慧科技有限公司（下稱“瑞萊智慧”）在2024年產(chǎn)品發(fā)布會上發(fā)布了一款面向個人用戶的AIGC（生成式人工智能技術(shù)）實時檢測產(chǎn)品RealBelieve，能幫助用戶鑒別通話或網(wǎng)絡(luò)視頻中的人臉真?zhèn)危部稍谟脩魹g覽網(wǎng)頁內(nèi)容時提供AI合成可能性提示。

瑞萊智慧成立于2018年，專注于人工智能安全可控技術(shù)，其客戶涵蓋金融、工業(yè)、公共安全等多個行業(yè)。RealBelieve產(chǎn)品中文名叫“尊嘟假嘟”，目前已開啟內(nèi)測招募。

會上，瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪稱，RealBelieve是一款軟件，用戶安裝后，在視頻通話時，產(chǎn)品會及時發(fā)出預(yù)警，提示視頻對方的人臉是否存在AI合成的風(fēng)險。實時的風(fēng)險提示可以幫助用戶及時調(diào)整溝通方式，快速確認對方的真實身份，避免損失；也可在用戶瀏覽網(wǎng)頁內(nèi)容時，針對一些網(wǎng)頁上的人物圖片，提供AIGC合成可能性的提示。

蕭子豪稱，該產(chǎn)品背后的檢測模型基于貝葉斯深度學(xué)習(xí)技術(shù)開發(fā)，團隊構(gòu)建了一整套多模態(tài)AIGC檢測技術(shù)體系，能夠挖掘并建模多模態(tài)、多層次、多角度的AI合成線索，度量真假差異，并進行不確定性的推理和決策。

隨著人工智能進入大模型時代，數(shù)字人和AI生成的視頻內(nèi)容日益增多。瑞萊智慧創(chuàng)始人、CEO田天稱，但是AI系統(tǒng)其實是很脆弱的，一些AI算法對黑客攻擊的防御力非常薄弱。

田天舉例稱，攻擊者在圖像上施加細微、人眼難以察覺的干擾，能輕易誤導(dǎo)AI系統(tǒng)作出錯誤的識別。例如，在人臉識別場景中，通過在人臉圖像上施加微小的擾動，使得原本準確的人臉識別系統(tǒng)錯誤地將一個人識別為另一個人。這種脆弱性可能帶來多種詐騙風(fēng)險，攻擊者可以利用AI生成的數(shù)字人或視頻內(nèi)容冒充他人，進行詐騙或誤導(dǎo)公眾。