(資料圖)

DoNews9月16日消息（李文朋）9月16日，以“共筑AI安全 安享智能未來(lái)”為主題的AISC首屆人工智能安全大賽圓滿落幕。

在人工智能安全大賽上，動(dòng)駕駛安全賽題和人臉識(shí)別安全賽題從攻擊視角出發(fā)，通過(guò)讓選手攻擊目標(biāo)模型挖掘算法漏洞，旨在發(fā)現(xiàn)更加穩(wěn)定的攻擊算法，以更好的實(shí)現(xiàn)準(zhǔn)確評(píng)估模型的安全性。深度偽造安全賽題則通過(guò)分析偽造音視頻的相似性，來(lái)溯源不同偽造內(nèi)容是否來(lái)自同一種或同一類生物特征生成軟件。

自七月開啟報(bào)名以來(lái)，大賽共吸引來(lái)自全國(guó)范圍內(nèi)70多所高等高校、科研院所、企業(yè)機(jī)構(gòu)的超過(guò)400支團(tuán)隊(duì)，共計(jì)600余名選手的踴躍參與。經(jīng)過(guò)三個(gè)月的激烈角逐，最終，上海交通大學(xué)聯(lián)合戰(zhàn)隊(duì)“AreYouFake”與北京交通大學(xué)戰(zhàn)隊(duì)“BJTU-ADaM”分別摘得深度偽造安全與自動(dòng)駕駛安全賽道桂冠，北京理工大學(xué)戰(zhàn)隊(duì)“DeepDream”與建信金科戰(zhàn)隊(duì)“Tian Quan&LianYi”共同位列人臉識(shí)別賽道第一名。

開放環(huán)境下的人工智能系統(tǒng)面臨諸多安全挑戰(zhàn)，如何解決通用人工智能算法全周期的安全保障問(wèn)題成為重中之重。北京航空航天大學(xué)軟件開發(fā)環(huán)境國(guó)家重點(diǎn)實(shí)驗(yàn)室副主任劉祥龍表示，目前人工智能算法及系統(tǒng)的安全性缺乏科學(xué)評(píng)測(cè)手段，難以有效評(píng)測(cè)完整的人工智能模型和算法能力。他表示，從技術(shù)上來(lái)看應(yīng)形成從安全性測(cè)試到安全性分析與安全性加固的完整技術(shù)手段，最終形成標(biāo)準(zhǔn)化的測(cè)試流程。同時(shí)他指出，未來(lái)的人工智能安全應(yīng)該圍繞從數(shù)據(jù)、算法到系統(tǒng)各個(gè)層次上的全面評(píng)測(cè)，同時(shí)配合一套整體的從硬件到軟件的安全可信計(jì)算環(huán)境。

關(guān)鍵詞： 國(guó)內(nèi)首個(gè)AI安全大賽圓滿收官 上海交通大學(xué)等高校摘得桂冠