中新經(jīng)緯3月11日電 近日,為了更好地推動(dòng)安全可靠AI模型相關(guān)領(lǐng)域的技術(shù)研究與人才培養(yǎng),鼓勵(lì)研究者打造更安全、更可靠的AI,商湯科技聯(lián)合北京航空航天大學(xué)共同發(fā)布,面向技術(shù)開發(fā)者和在校學(xué)生的科技類競賽活動(dòng)“面向復(fù)雜場景的魯棒機(jī)器學(xué)習(xí)大賽Robust Models towards Open-world Classification”。
大賽以CVPR2022 Workshop:The Art of Robustness: Devil and Angel in Adversarial Machine Learning為依托,該Workshop將匯聚來自全球計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)與智能安全領(lǐng)域的專家學(xué)者,圍繞對(duì)抗機(jī)器學(xué)習(xí)的最新進(jìn)展和發(fā)展展開研討與分享,以推動(dòng)安全可信人工智能技術(shù)進(jìn)步。比賽2022年3月正式開賽,希望參與者發(fā)揮創(chuàng)新思維與創(chuàng)新能力,開發(fā)以數(shù)據(jù)為中心的新算法,例如數(shù)據(jù)增強(qiáng)、標(biāo)簽細(xì)化、制作對(duì)抗性數(shù)據(jù),甚至設(shè)計(jì)來自其他領(lǐng)域的知識(shí)融合算法、數(shù)據(jù)集,加速圖像分類中的對(duì)抗性魯棒性技術(shù)研究,以達(dá)到更好地訓(xùn)練高效穩(wěn)定的機(jī)器學(xué)習(xí)模型的目標(biāo)。
隨著人工智能技術(shù)發(fā)展,如今AI模型已廣泛應(yīng)用于智慧城市、智能工廠、自動(dòng)駕駛等公共、生活和生產(chǎn)領(lǐng)域,人工智能已經(jīng)成為信息基礎(chǔ)設(shè)施的重要組成。但在這個(gè)過程中,人工智能也暴露出一些風(fēng)險(xiǎn)隱患,例如用戶和業(yè)界對(duì)于對(duì)抗安全、模型魯棒性等問題的關(guān)注度持續(xù)提升。商湯科技很早就啟動(dòng)了相關(guān)研究和布局,針對(duì)對(duì)抗安全、模型魯棒性以及隱私保護(hù)等問題,建立和完善了AI安全平臺(tái)技術(shù)體系,打造覆蓋全行業(yè)云邊端平臺(tái)更安全的“盾”,推動(dòng)人工智能更安全、更公平、更可持續(xù)性地發(fā)展,以提升人的福祉,推動(dòng)人類社會(huì)進(jìn)步。
此次大賽由商湯科技和北京航空航天大學(xué)劉祥龍教授團(tuán)隊(duì)合作舉辦,希望通過比賽吸引更多研究者共同參與到,推動(dòng)安全、可靠的人工智能技術(shù)發(fā)展中來。劉祥龍教授團(tuán)隊(duì)多年來深耕人工智能安全領(lǐng)域,不斷探索可信賴人工智能前沿技術(shù),在對(duì)抗攻防、模型評(píng)測和可解釋理論方面成果豐碩,在國內(nèi)外均具有一定影響力。比賽還得到了OpenI啟智新一代人工智能開源開放平臺(tái)的資源協(xié)助和大力支持。
雙賽道對(duì)抗競賽,聚焦開放世界場景
當(dāng)前的機(jī)器學(xué)習(xí)競賽大多在封閉數(shù)據(jù)集下尋找魯棒的機(jī)器學(xué)習(xí)模型,然而在開放世界場景中,噪聲數(shù)據(jù)的多樣性(如對(duì)抗擾動(dòng)、自然噪聲、對(duì)抗補(bǔ)丁、對(duì)抗光線)以及分類類別的不確定性將會(huì)給魯棒模型帶來極大的挑戰(zhàn)。
商湯科技透露,本次比賽的目的是加速開放世界場景下的魯棒模型研究。希望通過比賽,鼓勵(lì)研究者開發(fā)面向開放世界的對(duì)抗防御算法。面對(duì)多種多樣的對(duì)抗攻擊算法和真實(shí)世界中的各種各樣的場景,在測試類別不確定等因素下,探究魯棒模型的生產(chǎn)方式,促進(jìn)魯棒防御模型的發(fā)展。
本次比賽共有兩條賽道。
賽道1:分類任務(wù)防御模型競賽
第一賽道的目標(biāo)是獲得魯棒性好的模型,可以適應(yīng)各種各樣的攻擊樣本。
第一賽道分為初賽和復(fù)賽兩個(gè)階段。初賽階段,比賽會(huì)分別釋放訓(xùn)練集和測試集,參賽者僅能使用該階段釋放的訓(xùn)練集訓(xùn)練魯棒模型。訓(xùn)練集為正常的分類數(shù)據(jù),測試集包含正常分類數(shù)據(jù)和攻擊樣本。第一賽道的攻擊樣本包括但不限于通過對(duì)抗攻擊產(chǎn)生的對(duì)抗樣本。選手需要得到足夠魯棒的防御模型,能夠?qū)Ω蓛魳颖竞蛯?duì)抗樣本進(jìn)行正確分類。初賽階段選手需要將給定測試集的預(yù)測結(jié)果提交。復(fù)賽階段,參賽者同樣僅能使用該階段釋放的訓(xùn)練集訓(xùn)練魯棒模型。但與初賽不同的是,參賽者需要提交訓(xùn)練好的原始模型,平臺(tái)將對(duì)提交的模型進(jìn)行評(píng)測。數(shù)據(jù)集的構(gòu)成上,初賽為20類,復(fù)賽為100類。
賽道2:OpenSet對(duì)抗噪聲檢測模型
第二賽道的目標(biāo)是對(duì)對(duì)抗攻擊產(chǎn)生的對(duì)抗樣本做區(qū)分。在第二個(gè)賽道中測試集為開放類別,即和訓(xùn)練集合的類別沒有交集。
第二賽道同樣分為初賽和復(fù)賽兩個(gè)階段。初賽階段,比賽會(huì)分別釋放訓(xùn)練集和測試集,參賽者僅能使用該階段釋放訓(xùn)練接做訓(xùn)練,得到可以區(qū)分正常樣本和對(duì)抗樣本的模型。在復(fù)賽階段,選手同樣需要提交模型到平臺(tái)進(jìn)行驗(yàn)證。
比賽規(guī)則
據(jù)介紹,本次比賽的提交評(píng)測,在主辦方提供的評(píng)測平臺(tái)上進(jìn)行。比賽采用初賽、初賽和復(fù)賽階段的評(píng)估指標(biāo)均采用識(shí)別準(zhǔn)確率。初賽成績排名前20名晉級(jí)復(fù)賽,最終成績按照干凈樣本下的準(zhǔn)確率得分占比40%,噪聲樣本下的準(zhǔn)確率得分占比60%進(jìn)行加權(quán)得到總分進(jìn)行排名。
在比賽中只允許使用各個(gè)階段提供的訓(xùn)練數(shù)據(jù)集進(jìn)行訓(xùn)練,其他數(shù)據(jù)集不允許用于模型的訓(xùn)練。
復(fù)賽提交ONNX模型,模型需要為FP32模型,模型體積不大于120M,計(jì)算量不大于 5GFLOPs。輸入圖片的格式為3x224x224,每個(gè)像素歸一化到[0,1]。
不允許為訓(xùn)練集合提供任何外部數(shù)據(jù)。
禁止模型融合。簡單來說,單獨(dú)訓(xùn)練多個(gè)模型然后對(duì)結(jié)果融合是禁止的,主辦方會(huì)對(duì)最終提交的代碼進(jìn)行審核。
禁止在模型提交環(huán)節(jié)使用超過提交規(guī)定規(guī)模(包括FLOPs和體積)的模型對(duì)提交模型進(jìn)行蒸餾。
禁止對(duì)測試集樣本手工標(biāo)記。
參與者必須在每個(gè)賽道的第二階段提交中附帶一份技術(shù)報(bào)告,其中包括對(duì)其提交的詳細(xì)消融研究(建議長度1-4頁)。報(bào)告將會(huì)在競賽官網(wǎng)進(jìn)行公開。
本次比賽總獎(jiǎng)池1.5萬美元。其中賽道1總獎(jiǎng)金池8000美元,取前6名,前六名獎(jiǎng)金分別為3000、2000、1500、800、500、200美元;賽道2總獎(jiǎng)金池7000美元,取前3名,前三名獎(jiǎng)金分別為4000、2000、1000美元。比賽時(shí)間為3月11日-5月21日,并將在6月發(fā)布及公示獲獎(jiǎng)結(jié)果,獲獎(jiǎng)隊(duì)伍還將受邀參加CVPR 2022的相關(guān)主題Workshop進(jìn)行分享。
建立AI安全平臺(tái)技術(shù)體系,持續(xù)推動(dòng)技術(shù)發(fā)展
如今推動(dòng)可信人工智能技術(shù)發(fā)展,實(shí)現(xiàn)人工智能的技術(shù)可控已成為全球共識(shí)。對(duì)于任何新興技術(shù)的應(yīng)用,都必須保證其安全性與可靠性,必須齊備可驗(yàn)證、可審查、可信任、負(fù)責(zé)任等關(guān)鍵屬性。與歷史上其他重要技術(shù)發(fā)展普遍會(huì)經(jīng)歷的一樣,人工智能也正在經(jīng)歷從技術(shù)研發(fā)到大量應(yīng)用的關(guān)鍵階段。
商湯科技稱,一直秉持平衡發(fā)展的AI倫理觀,希望在技術(shù)可控、以人為本和可持續(xù)三條核心原則的基礎(chǔ)上,尋求均衡發(fā)展,希望用人工智能技術(shù)推動(dòng)社會(huì)的進(jìn)步。近年來,商湯科技建立和完善了AI安全平臺(tái)技術(shù)體系。在數(shù)據(jù)安全及保護(hù)方面,商湯科技成為第一家獲得全部三項(xiàng) ISO/IEC 隱私信息管理系統(tǒng)、信息安全管理和個(gè)人身份信息保護(hù)認(rèn)證的人工智能公司。同時(shí),商湯科技還通過基于真實(shí)場景下的數(shù)據(jù)集的算法驗(yàn)證與評(píng)測,圍繞“AI算法的數(shù)據(jù)隱私保護(hù)”“AI算法的魯棒性”“AI算法的公平性”等多個(gè)方面進(jìn)行,從產(chǎn)品源頭確保人工智能算法的可信品質(zhì)。
商湯科技表示,依托深厚的技術(shù)累積、人才儲(chǔ)備、行業(yè)經(jīng)驗(yàn)等,未來在為用戶提供在行業(yè)內(nèi)廣泛驗(yàn)證使用、具備行業(yè)影響力的可信任AI解決方案的同時(shí),還將引領(lǐng)人工智能行業(yè)產(chǎn)品安全標(biāo)準(zhǔn)體系的建立,全方位為AI行業(yè)的健康持續(xù)發(fā)展保駕護(hù)航。(中新經(jīng)緯APP)
標(biāo)簽: 機(jī)器學(xué)習(xí)
- CVPR 2022 AI安全挑戰(zhàn)賽:面向復(fù)雜場景的魯棒機(jī)器學(xué)習(xí)大賽
- 專訪大家資產(chǎn)固收投資經(jīng)理蘭天:今年可轉(zhuǎn)債風(fēng)險(xiǎn)大于機(jī)會(huì) 在系統(tǒng)性估值壓縮前需注意風(fēng)險(xiǎn)
- 東杰智能:擬轉(zhuǎn)讓參股公司中集智能19.06%股權(quán)
- 云南銅業(yè):1-2月凈利潤同比增長489%左右
- 中科海訊:平頂山聲學(xué)擬減持公司不超3%股份
- 杰瑞新能源年產(chǎn)10萬噸鋰電池負(fù)極材料項(xiàng)目開工
- 中國聯(lián)通:2021年凈利63.05億元 同比增長14.2%
- 中國殲-10CE戰(zhàn)斗機(jī)首次出口巴基斯坦
- 北京冬殘奧會(huì)|“拜靴”慶祝!中國輪椅冰壺隊(duì)晉級(jí)決賽提前鎖定獎(jiǎng)牌
- 南非:希望在俄烏沖突中發(fā)揮調(diào)解作用
- (體育)中國圍棋新人王賽決賽將再現(xiàn)“性別大戰(zhàn)”
- 杭州多地養(yǎng)老機(jī)構(gòu)配合防疫實(shí)施封閉管理
- 天津靜海區(qū)、西青區(qū)多地被劃定為封控區(qū)、管控區(qū)
- 新西蘭銀行前首席經(jīng)濟(jì)學(xué)家:新西蘭通脹率或因俄烏局勢升至7.5%
- 南非燃油盜竊案件增加 呼吁民眾杜絕非法獲取燃油
- 2月我國汽車產(chǎn)銷量同比穩(wěn)步增長
- “一體化地圖數(shù)據(jù)AI大生產(chǎn)平臺(tái)”預(yù)計(jì)年內(nèi)全面實(shí)現(xiàn)數(shù)據(jù)標(biāo)準(zhǔn)化統(tǒng)一生產(chǎn)
- [正點(diǎn)財(cái)經(jīng)]聚焦俄烏局勢 七國集團(tuán)召開能源部長特別會(huì)議 商討能源供應(yīng)多樣化
- #(春季美麗生態(tài))(7)春暖花開醉游人
- 云南省發(fā)展改革委赴楚雄州開展農(nóng)業(yè)農(nóng)村領(lǐng)域重點(diǎn)項(xiàng)目調(diào)研
- 《精彩一刻》剛剛沒人看到吧?
- 新疆和田:稅惠春風(fēng)吹暖早春好圖景
- (社會(huì))(4)春光好 農(nóng)事忙
- (社會(huì))(11)春光好 農(nóng)事忙
- [正點(diǎn)財(cái)經(jīng)]為保糧食安全 黎巴嫩禁止食品出口
- (社會(huì))(5)春光好 農(nóng)事忙
- (社會(huì))(13)春光好 農(nóng)事忙
- (聚焦疫情防控)(4)上海:加強(qiáng)居民核酸檢測 全力抗擊新冠疫情
- 河北廊坊霸州市前兩輪全員核酸檢測均為陰性
- 河北廊坊霸州市前兩輪全員核酸檢測均為陰性
- 南非華僑突發(fā)腦梗 浙江黃巖凝聚僑力架起回國路
- 十年種下近200個(gè)足球場!他為家鄉(xiāng)荒山“添綠增色”
- 香港恒生指數(shù)本周累跌1352點(diǎn) 險(xiǎn)守20000點(diǎn)大關(guān)
- 香港恒生指數(shù)本周累跌1352點(diǎn) 險(xiǎn)守20000點(diǎn)大關(guān)
- 云南29地日最高氣溫突破30℃ 森林火險(xiǎn)氣象等級(jí)不斷升高
- 你知道嗎?#古人佩劍是身份的象征#
- 吉林兩地疫情出現(xiàn)社區(qū)傳播 感染者短期內(nèi)仍將快速增加
- 西班牙華人酒吧老板被下藥迷昏損失600歐元 小偷尚未落網(wǎng)
- (科技)綜述:福島核事故11年 消除遺留后患仍是難題
- 2022年中央國庫現(xiàn)金管理商業(yè)銀行定期存款(一期)招投標(biāo)通知
- 中國女籃啟程回國
- 融合傳播 精彩紛呈
- 陳曉:全面實(shí)行注冊制,IPO會(huì)井噴是偽命題
- 希臘警察總部發(fā)布惡劣天氣加劇警報(bào) 部分道路實(shí)施宵禁
- 北京大興新增2例確診病例 一確診病例曾乘坐多條地鐵
- 3月10日起意大利放寬新冠防疫政策
- 新疆阿克蘇地區(qū)庫車市3.3級(jí)地震
- SCI之窗 | 中國人群膳食蛋白質(zhì)攝入種類多樣性與新發(fā)高血壓及新發(fā)糖尿病的關(guān)聯(lián)
- 全球連線丨尺度:量一量中國科技奇跡……
- 王春露:發(fā)揮體育明星作用 推動(dòng)全民健身高水平發(fā)展
- 共同藥業(yè):公司主要產(chǎn)品為甾體藥物生產(chǎn)所需的起始物料和中間體
- 她健康:定期篩查 遠(yuǎn)離兩癌
- 全國人大代表戴立忠建議:賦予具備艾滋核酸檢測能力實(shí)驗(yàn)室確證艾滋的權(quán)利
- 老年癡呆是吃出來的?提醒:你以為的“好飲食”,可能在加速癡呆
- 日本的賞櫻季節(jié)日益臨近 上野公園等著名景點(diǎn)禁止在櫻花樹下聚餐
- 楊占武:建設(shè)體育文化旅游帶 更好滿足全民健身需求
- 日本長野縣議會(huì)10名議員感染新冠肺炎
- 兩會(huì)1+1丨履職五年的政協(xié)委員們
- 鎳企吐槽:這次異動(dòng),我們是受害者
- 長春公交集團(tuán)全部公交線路暫停運(yùn)營
- 新冠病毒疫苗接種情況(截至3月10日)
- 福建省首個(gè)涉海洋公益訴訟檢察研究基地揭牌
- 九江中院首次使用“二審獨(dú)任制”化糾紛
- 程青《月色朦朧》:朦朧的文人心態(tài)
- (經(jīng)濟(jì))(4)280米高空!他們“走鋼絲”跨越長江 為能源大動(dòng)脈“體檢”
- 《王牌對(duì)王牌》全員致敬“武俠精神”
- 河南:打造優(yōu)質(zhì)糧食工程升級(jí)版
- 水利部與臨汾市、鄂爾多斯市、東營市會(huì)商地下水水位變化情況
- (經(jīng)濟(jì))(8)280米高空!他們“走鋼絲”跨越長江 為能源大動(dòng)脈“體檢”
- 直播間里的“孔雀公主”:民族舞獲200萬人關(guān)注,靠打賞為自己賺學(xué)費(fèi)
- 31省份累計(jì)報(bào)告接種新冠病毒疫苗318006.0萬劑次
- 順風(fēng)車需要辦理營運(yùn)證嗎?交通運(yùn)輸部回應(yīng)
- 3月7日機(jī)動(dòng)車未禮讓斑馬線交通違法行為曝光
- 3月11日非機(jī)動(dòng)車、行人交通違法行為曝光
- 康希諾:公司的mRNA新冠疫苗尚處于臨床前研究階段
- 中泰股份:天然氣以及大宗物資的漲價(jià),若公司能及時(shí)順價(jià)至下游,則對(duì)公司影響較小
- 3月7日機(jī)動(dòng)車未禮讓斑馬線交通違法行為曝光
- (體育)“國潮”更“潮”、經(jīng)典不老,在冬奧“秀場”里亮出自信
- 3月11日非機(jī)動(dòng)車、行人交通違法行為曝光
- 康希諾:公司的mRNA新冠疫苗尚處于臨床前研究階段
- 3月9日機(jī)動(dòng)車未禮讓斑馬線交通違法行為曝光
- 3月9日機(jī)動(dòng)車未禮讓斑馬線交通違法行為曝光
- 手機(jī)上可查詢居住登記信息、申報(bào)居住登記啦
- (國際)中國第16批援萊索托醫(yī)療隊(duì)到任
- 手機(jī)上可查詢居住登記信息、申報(bào)居住登記啦
- 在考古新發(fā)現(xiàn)中讀懂中國
- (XHDW)(7)歐盟領(lǐng)導(dǎo)人非正式峰會(huì)在凡爾賽宮舉行
- (XHDW)(1)歐盟領(lǐng)導(dǎo)人非正式峰會(huì)在凡爾賽宮舉行
- 600多位車主質(zhì)疑BMS升級(jí)變鎖電,威馬汽車予以否認(rèn)
- 中國第16批援萊索托醫(yī)療隊(duì)到任
- “汪星人”亮相 克魯弗茲狗展在英國舉行
- 在考古新發(fā)現(xiàn)中讀懂中國
- 昆明市中小學(xué)教師資格筆試推遲至下半年
- 呈貢區(qū)龍城街道眾和社區(qū)開展3·5主題志愿服務(wù)活動(dòng)
- 聚焦兩會(huì) 全國政協(xié)委員 河南博物院院長 馬蕭林 文博人以開放思維 讓文物活起來
- 龍津藥業(yè):公司工業(yè)大麻種植模式為“公司+農(nóng)戶”合同種植,2021年種植面積較上年減少25%
- 117股公布年報(bào) 27股凈利潤增幅翻倍
- 呈貢區(qū)龍城街道龍嶺社區(qū)召開第一季度聯(lián)席會(huì)議點(diǎn)亮“微心愿”
- 這份成績單 與你有關(guān)!
- 京東云計(jì)算于常州成立新公司,經(jīng)營范圍含動(dòng)漫游戲開發(fā)
-
1居家學(xué)習(xí)期間 90.2%的受訪家長因?yàn)榕c孩子的溝通問題而煩惱
-
2喝礦泉水好? 還是喝純凈水好?
-
3家政業(yè)復(fù)工了 你們家阿姨上門了嗎?
-
4南京警方破獲多起偽裝房屋“中介”進(jìn)行詐騙案件
-
5一季度全國居民人均可支配收入8561元 同比名義增長0.8%
-
6名人直播帶貨火爆 直播電商快速生長期面臨“重塑”
-
7各地“搶人才”的腳步?jīng)]有放慢 新一輪人才大戰(zhàn)透露出哪些信號(hào)?
-
8第20個(gè)世界知識(shí)產(chǎn)權(quán)日 云南2019年專利申請(qǐng)3萬余件
-
9高溫來襲!海南省氣象局:多市縣將出現(xiàn)37度以上高溫天氣
-
10三亞機(jī)場累計(jì)恢復(fù)航線72條 國際及地區(qū)航線暫無復(fù)航計(jì)劃