“這段視頻明顯是AI合成的！視頻中人臉動作軌跡和速度等信息都出現(xiàn)異常?！?/em>

“這條語音在某些頻率上過于‘干凈’，顯示出不自然的變化，AI生成概率在98%以上！”

11月20日，國內(nèi)首個AI大模型攻防賽在世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會收官?，F(xiàn)場，全球十強選手面對“眼見不為實、耳聽不為實”的場景，通過大模型技術辨別AI造假的音頻、證照及視頻，用AI對抗AI。

大賽自9月啟動以來，來自全球18個國家和地區(qū)的2700多個賽隊、3200余名技術精英參與，選手來自清華大學、北京大學、交通大學、南洋理工大學、約翰霍普金斯大學、香港科技大學、悉尼大學等290多個國內(nèi)外高校，以及字節(jié)跳動、理想汽車、騰訊、智譜AI、Shopee、網(wǎng)易等280多個互聯(lián)網(wǎng)、金融、汽車、大模型科技等行業(yè)企業(yè)。

通過攻、防雙向賽道競技，大賽最終角逐出全球十強，由來自字節(jié)跳動、合合信息科技、濟南大學、浙江工業(yè)大學、安徽大學、上海交通大學等企業(yè)和高校的賽隊獲得。

據(jù)悉，賽事由中國圖象圖形學學會、螞蟻集團、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦，聯(lián)合清華大學、上海交通大學、浙江大學、北京科技大學、湖南大學、華中科技大學、北京理工大學等高校及多家產(chǎn)學研組織共同發(fā)起，直面并解決大模型應用中潛藏風險，助力全球AI產(chǎn)業(yè)健康可持續(xù)發(fā)展。

國內(nèi)首個AI大模型攻防賽全球十強烏鎮(zhèn)亮相

國內(nèi)首個攻防賽：聚焦AI反詐等大模型安全真實場景

近年來，人工智能技術特別是大模型及AIGC領域飛速發(fā)展，給我們生活帶來了前所未有的便利與可能性，也帶來了安全方面的挑戰(zhàn)。

只需10秒，大模型就能克隆聲音、復刻照片，甚至能生成“你”的視頻，從而引發(fā)deepfake欺詐、色情影像偽造、假新聞等社會事件；大模型“越獄”問題頻發(fā)，誘騙AI聽從不懷好意的指令，生成血腥、暴力、歧視、仇恨的圖片、視頻，危害網(wǎng)絡空間安全。

中國工程院院士、中國圖象圖形學學會理事長王耀南指出：“加強大模型安全保護，構建完善的安全防護體系，是確保人工智能技術持續(xù)、穩(wěn)定、健康發(fā)展的關鍵所在，也是我們在這個充滿機遇與挑戰(zhàn)的時代必須肩負起的重要使命?！?/span>

據(jù)了解，在此背景下，全球AI大模型攻防挑戰(zhàn)賽聚焦大模型自身安全和大模型生成內(nèi)容的防偽檢測兩個賽道，賽題涉及信用成長、憑證審核、商家入駐、智能助理等多個業(yè)務場景，覆蓋機器學習、圖像處理與計算機視覺、數(shù)據(jù)處理等多個算法領域，通過創(chuàng)新的技術解決方案，進一步保障大模型應用安全和產(chǎn)業(yè)安全。

“通過攻防實戰(zhàn)演練，直面大模型應用中的安全問題，促使大模型安全技術不斷進步，從而攜手行業(yè)邁向更高的安全水平?！蔽浵伡瘓F安全實驗室首席科學家、全球AI大模型攻防挑戰(zhàn)賽評審委員會委員王維強表示。

全球AI大模型攻防挑戰(zhàn)賽十強選手現(xiàn)場對抗AI詐騙

AI反詐是當前保護大模型安全最典型、真實的場景之一?！艾F(xiàn)在AI詐騙越來越隱秘，手法越來越多樣，可以模擬親人的聲音、朋友的視頻，甚至偽造各種文件，讓人們防不勝防。今天的比賽，作為一名人民警察，我感覺非常欣慰，這意味著我們在對抗AI詐騙的道路上，有了更多的力量和智慧?！笔展佻F(xiàn)場，來自桐鄉(xiāng)的反詐民警李湘臣向記者說道。

育人才、建標準：推動大模型安全可持續(xù)發(fā)展

“大賽的舉行，匯聚了全球范圍內(nèi)數(shù)千位技術精英，為大家提供了技術交流與競技平臺；在這個舞臺上，許多優(yōu)秀的人才脫穎而出，發(fā)現(xiàn)和培養(yǎng)一批優(yōu)秀的安全人才，為行業(yè)的未來發(fā)展儲備智力資源，也是大賽的初衷之一?！敝袊鴪D象圖形學學會副理事長兼秘書長、北京科技大學教授馬惠敏表示說。

全球AI大模型攻防挑戰(zhàn)賽優(yōu)秀選手獲螞蟻集團直通offer

據(jù)悉，除了十強選手之外，為了鼓勵比賽方案的算法創(chuàng)新性和資源綠色性，大賽還特別評選出“杰出方案獎”，分別由西安交通大學、上海交通大學及理想汽車賽隊獲得。此外，螞蟻集團在現(xiàn)場為優(yōu)秀選手頒發(fā)直通offer，優(yōu)秀技術人才秒入職。

中國科學院計算技術研究所副研究員敖翔在現(xiàn)場表示：“人工智能技術的飛速發(fā)展為人才提供了廣闊的發(fā)展空間和創(chuàng)新平臺，而AI領域的快速變化也對人才的知識結構、技能水平和創(chuàng)新能力提出了更高的要求，AI時代人才的成長離不開產(chǎn)學研的密切合作。”

此外，活動現(xiàn)場，中國信通院啟動“護證計劃”，呼吁共建行業(yè)標準，守護用戶的身份安全。螞蟻集團積極響應加入該計劃，宣布其推出的憑證可信認證平臺螞蟻光鑒將逐步升級，未來打造成為集合智能證照核身處理系統(tǒng)、智能聲音核身處理系統(tǒng)、智能視頻核身處理系統(tǒng)于一體的新一代AI核身系統(tǒng)。

中國信通院啟動“護證計劃”，呼吁共建數(shù)字身份行業(yè)標準

IIFAA互聯(lián)網(wǎng)可信認證聯(lián)盟也正式對外發(fā)布《IIFAA基于移動智能終端的憑證文件驗證服務檢測規(guī)范》，該規(guī)范對憑證文件驗證服務的功能、性能要求以及評估方法做了詳細說明，以提升憑證文件驗證服務的功能、性能要求以及評估方法做了詳細說明，以提升憑證文件驗證的效率和安全性，推動行業(yè)的標準化進程。

“只有當技術、規(guī)范和意識三者協(xié)同發(fā)力，加上持續(xù)的人才儲備，我們才能真正守護好大模型的安全，為其持續(xù)健康發(fā)展創(chuàng)造良好的條件?！蓖蹙S強表示說。