【法治護(hù)我心——《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》系列解讀】
【資料圖】
近年來(lái),不少“AI換臉”“魔法變聲”類應(yīng)用走紅網(wǎng)絡(luò);影像修復(fù)讓影視愛好者得以重溫高清的老電影;電商直播、影視動(dòng)畫、文化傳媒等日常生活場(chǎng)景中,虛擬數(shù)字人已經(jīng)廣泛應(yīng)用……深度合成類技術(shù)竟這般“神奇”。
作為人工智能領(lǐng)域的新型“黑科技”,得益于人工智能技術(shù)的不斷發(fā)展與開放,深度合成技術(shù)以其較低的應(yīng)用門檻、較強(qiáng)的娛樂(lè)屬性、豐富的應(yīng)用場(chǎng)景,愈加受到廣泛關(guān)注。然而,利用非法盜取的音視頻和照片,通過(guò)變聲、換臉等技術(shù)偽裝“瞞天過(guò)?!?,實(shí)施詐騙或侵犯他人肖像權(quán)、名譽(yù)權(quán)的事件,卻也時(shí)有發(fā)生。
1月10日,針對(duì)深度合成服務(wù)治理的專門性部門規(guī)章《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)施行,網(wǎng)民普遍“點(diǎn)贊”,對(duì)其將形成的治理、規(guī)范效用表達(dá)支持。
難辨真假背后技術(shù)亂象門檻愈低
以假亂真,是深度合成技術(shù)的顯著特點(diǎn)之一?!吧疃群铣煞?wù)在互聯(lián)網(wǎng)社交媒體中廣泛應(yīng)用,豐富了互聯(lián)網(wǎng)信息內(nèi)容生態(tài),推動(dòng)了互聯(lián)網(wǎng)相關(guān)產(chǎn)業(yè)發(fā)展?!敝袊?guó)科學(xué)院信息工程研究所所長(zhǎng)孟丹認(rèn)為,該技術(shù)在為人民生活帶來(lái)了便利便捷和多樣化體驗(yàn)的同時(shí),也可能被惡意利用,虛假信息內(nèi)容或?qū)?lái)政策干擾、謠言泛濫、低俗內(nèi)容肆意傳播等影響國(guó)家安全、社會(huì)穩(wěn)定的風(fēng)險(xiǎn)問(wèn)題。
中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心最新數(shù)據(jù)顯示,截至2022年6月,我國(guó)有10.51億網(wǎng)民,互聯(lián)網(wǎng)普及率達(dá)74.4%。同時(shí),以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的數(shù)字領(lǐng)域,逐漸成為我國(guó)創(chuàng)新發(fā)展活躍、社會(huì)輻射廣泛的新興領(lǐng)域。隨著各類商業(yè)化產(chǎn)品普及,深度合成的信息內(nèi)容也在網(wǎng)絡(luò)上大量涌現(xiàn),越來(lái)越多的社會(huì)公眾接觸到了深度合成技術(shù)。
清華大學(xué)研究生院院長(zhǎng)周杰認(rèn)為,深度合成技術(shù)的使用門檻愈發(fā)降低,呈現(xiàn)出“平民化”的趨勢(shì),普通人也可以利用簡(jiǎn)單方便的軟件工具制作合成內(nèi)容。
“AI配音騙了多少中老年人”“頂著明星的臉賣貨”……正如部分網(wǎng)民所提到的,在互聯(lián)網(wǎng)技術(shù)日益發(fā)達(dá)的時(shí)代,人們對(duì)于看到的畫面、聽到的聲音和讀到的文本,已難以如往常一般充分信任。通過(guò)人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù),具有了高度仿真的視覺、聽覺等效果,使人們難辨真假。
虛假信息一直是互聯(lián)網(wǎng)治理的痛點(diǎn)與難點(diǎn),深度合成技術(shù)的廣泛應(yīng)用則對(duì)虛假信息的治理提出了更高的要求。
既要直面技術(shù)風(fēng)險(xiǎn),又要做好源頭整治
如今,深度合成技術(shù)已展現(xiàn)其強(qiáng)大的能力,在各個(gè)領(lǐng)域的加速應(yīng)用逐漸成為趨勢(shì)。中國(guó)政法大學(xué)教授張凌寒認(rèn)為,《規(guī)定》將深度合成為代表的生成合成類算法作為算法安全治理體系細(xì)化的重要一步,一方面是由于深度合成屬于高敏感性的與互聯(lián)網(wǎng)信息內(nèi)容安全息息相關(guān)的技術(shù)應(yīng)用,另一方面深度合成技術(shù)將成為網(wǎng)絡(luò)虛擬空間與現(xiàn)實(shí)物理世界虛實(shí)結(jié)合、融為一體的關(guān)鍵技術(shù)應(yīng)用,未來(lái)存在巨大發(fā)展空間。
“在相關(guān)技術(shù)研究發(fā)展的同時(shí),也須直面技術(shù)帶來(lái)的風(fēng)險(xiǎn),保證算法和數(shù)據(jù)的安全性、可靠性,最大程度做到技術(shù)進(jìn)步的趨利避害?!敝芙苓@樣說(shuō)。
那么,對(duì)算法和數(shù)據(jù)的正向引導(dǎo)從何下手?有網(wǎng)民提出,“把平臺(tái)管牢,就解決了很大一部分深度偽造問(wèn)題”。對(duì)此,中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所所長(zhǎng)何寶宏表示,《規(guī)定》構(gòu)建了圍繞深度合成“技術(shù)支持者”和“服務(wù)提供者”的責(zé)任框架。其中,技術(shù)支持者應(yīng)從源頭深化技術(shù)治理,加強(qiáng)數(shù)據(jù)和技術(shù)管理,同時(shí)參照相關(guān)規(guī)定履行算法備案等手續(xù)。服務(wù)提供者應(yīng)全方位落實(shí)信息安全主體責(zé)任,強(qiáng)化針對(duì)服務(wù)、用戶、數(shù)據(jù)、技術(shù)以及內(nèi)容等方面的管理措施,實(shí)施安全可控的技術(shù)保障措施。
“AI換臉、AI繪畫等常用技術(shù)及其生產(chǎn)內(nèi)容,今后還能使用嗎?”有網(wǎng)友在社交平臺(tái)上這樣提問(wèn)。中國(guó)科學(xué)院自動(dòng)化研究所研究員陶建華介紹,《規(guī)定》從兩個(gè)方面明確了深度合成內(nèi)容標(biāo)識(shí)管理的具體要求:一是要添加不影響使用的標(biāo)識(shí),保障深度合成信息內(nèi)容可識(shí)別溯源;二是要使用顯著方式,對(duì)生成或顯著改變信息內(nèi)容的深度合成信息內(nèi)容進(jìn)行標(biāo)識(shí),保障公眾知情權(quán)。
“虛擬主播”如何管理?中國(guó)人民大學(xué)未來(lái)法治研究院執(zhí)行院長(zhǎng)張吉豫提到,《規(guī)定》將“數(shù)字人物”納入深度合成管理,這是對(duì)深度合成技術(shù)的不斷發(fā)展運(yùn)用中可能面臨的風(fēng)險(xiǎn)所進(jìn)行的科學(xué)研判,數(shù)字人物運(yùn)用中同樣涉及私權(quán)、可能帶來(lái)問(wèn)題,需要進(jìn)行合理規(guī)范。
技術(shù)發(fā)展要兼具“創(chuàng)新”與“溫暖”
正如眾多網(wǎng)民在接觸和使用之中的感受,深度合成技術(shù)具有“兩面性”。如何使其保持快速發(fā)展的同時(shí),在各個(gè)應(yīng)用領(lǐng)域得到依法合理有效利用,最大程度服務(wù)于滿足用戶需求、改進(jìn)用戶體驗(yàn),保障“眼見為實(shí)”,是網(wǎng)民的深度關(guān)切和期待。
張凌寒提到,深度合成技術(shù)代表了未來(lái)人工智能產(chǎn)業(yè)發(fā)展的重要方向,重新定義了虛擬化數(shù)字生存空間。
2021年“元宇宙”概念的火熱,為深度合成技術(shù)提供了更加寬廣的應(yīng)用場(chǎng)景,也促進(jìn)了深度合成技術(shù)的加速發(fā)展?!啊兑?guī)定》也回應(yīng)了這一人工智能未來(lái)的發(fā)展方向,三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景、沉浸式擬真場(chǎng)景的技術(shù),是《規(guī)定》規(guī)制的深度合成技術(shù)的重要類別。”張凌寒說(shuō)。
深度合成技術(shù)向善使用,甚至還可帶給人“情感慰藉”。2019年,我國(guó)某人工智能實(shí)驗(yàn)室受一位作為母親的網(wǎng)民所托,將其已離世的女兒合成“復(fù)制”為可交互的軟件,女兒的“語(yǔ)音”得以在互動(dòng)終端設(shè)備中重現(xiàn)。一位美國(guó)記者詹姆斯·弗拉霍斯(James Vlahos)在父親確診為癌癥晚期后,收集了父親的錄音、生平、記憶,并利用這些數(shù)據(jù)開發(fā)擁有父親“思想”和“記憶”的AI機(jī)器人,它能夠用父親的口吻與詹姆斯進(jìn)行有思維性的聊天,讓詹姆斯感到十分欣慰。
創(chuàng)新與溫情之外,業(yè)內(nèi)人士坦言,深度合成內(nèi)容行業(yè)的挑戰(zhàn),將主要體現(xiàn)在深度合成逼真度正在快速提升,甚至很難分辨真?zhèn)芜吔?。而最新的深度偽造技術(shù)具備強(qiáng)對(duì)抗性,天然針對(duì)檢測(cè)方法進(jìn)行對(duì)抗攻擊,從而使檢測(cè)方法失效。
面向算法正面正向的應(yīng)用,《規(guī)定》已給出了解答和方向。陶建華說(shuō),《規(guī)定》明確了技術(shù)應(yīng)用的底線,要求體現(xiàn)正確的社會(huì)價(jià)值觀;要建立健全辟謠機(jī)制并及時(shí)采取相應(yīng)辟謠措施;同時(shí)鼓勵(lì)深度合成服務(wù)相關(guān)行業(yè)自律并遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則。
中國(guó)社科院哲學(xué)所科技哲學(xué)研究室主任、研究員段偉文還建議,深度合成技術(shù)涉及認(rèn)知安全,要提升社會(huì)認(rèn)知安全意識(shí),提升公眾的數(shù)字素養(yǎng)。
光明網(wǎng)記者 李飛 孔繁鑫
標(biāo)簽: 破解之道
- 國(guó)家發(fā)改委:民生用能絕對(duì)不能限購(gòu)?fù)9?/a>
- 世界最資訊丨【法治護(hù)我心】眼見真的為“實(shí)”?NO!探尋深度合成亂象破解之道
- 【環(huán)球時(shí)快訊】最新!江西-萍鄉(xiāng)01月13日12時(shí)最新消息:萍鄉(xiāng)疫情新增本土確診病例0例
- 當(dāng)前視訊!優(yōu)步怎么解綁支付寶
- 公安機(jī)關(guān)公布打擊整治“網(wǎng)絡(luò)水軍”違法犯罪10起典型案例
- 最新!甘肅-平?jīng)?1月13日12時(shí)最新消息:平?jīng)鲆咔樾略霰就链_診病例0例
- 天天快消息!最新!河南-平頂山01月13日12時(shí)最新消息:平頂山疫情新增本土確診病例0例
- 幼兒數(shù)學(xué)10以內(nèi)加減法題庫(kù) 幼兒數(shù)學(xué)10以內(nèi)加減法
- 世界熱訊:波音737MAX商業(yè)航班今日復(fù)飛
- 新動(dòng)態(tài):天津檢察機(jī)關(guān)依法對(duì)李杰翔涉嫌受賄案提起公訴
- 世界快資訊丨波音737MAX商業(yè)航班今日復(fù)飛
- 【環(huán)球新要聞】毫州在哪 中國(guó)地圖上屬于哪個(gè)省
- 1月13日12時(shí)江西南昌最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(江西南昌防控措施方案公布)
- 1月13日12時(shí)貴州黔南最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(貴州黔南防控措施方案公布)
- 01月13日11時(shí)巴中最新疫情防疫管控出入政策通知
- 環(huán)球速讀:最新!新疆-克孜勒蘇01月13日12時(shí)最新消息:克孜勒蘇疫情新增本土確診病例0例
- 天天觀焦點(diǎn):大摩發(fā)布研究報(bào)告稱,維持騰訊控股(00700.HK)“增持”評(píng)級(jí),目標(biāo)價(jià)420港元
- 全球微速訊:1月13日12時(shí)浙江湖州最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(浙江湖州防控措施方案公布)
- 全球視點(diǎn)!1月13日12時(shí)浙江紹興最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(浙江紹興防控措施方案公布)
- 天天觀點(diǎn):01月13日11時(shí)海東最新疫情防疫管控出入政策通知
- 焦點(diǎn)熱議:最新!廣西-桂林01月13日12時(shí)最新消息:桂林疫情新增本土確診病例0例
- 世界簡(jiǎn)訊:01月13日11時(shí)西寧最新疫情防疫管控出入政策通知
- 01月13日10時(shí)荊州最新疫情防疫管控出入政策通知
- 環(huán)球微資訊!最新!新疆-阿勒泰01月13日12時(shí)最新消息:阿勒泰疫情新增本土確診病例0例
- 熱資訊!01月13日10時(shí)咸寧最新疫情防疫管控出入政策通知
- 熱點(diǎn)在線丨1月13日12時(shí)河南信陽(yáng)最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(河南信陽(yáng)防控措施方案公布)
- 每日焦點(diǎn)!最新!陜西-安康01月13日12時(shí)最新消息:安康疫情新增本土確診病例0例
- 最新!乘火車禁止、限量攜帶物品清單請(qǐng)查收
- 國(guó)債逆回購(gòu)借出借入是什么意思?國(guó)債逆回購(gòu)假期交易嗎?
- 銀行定期存款給幾張存款單?可以在手機(jī)銀行上存定期存款嗎?
- 當(dāng)前信息:國(guó)家稅務(wù)總局:2022年累計(jì)免征新能源車輛購(gòu)置稅879億元
- 國(guó)債逆回購(gòu)成交了還能撤銷嗎?國(guó)債逆回購(gòu)長(zhǎng)期操作可以嗎?
- 銀行特色存款受保護(hù)嗎?銀行特色存款算不算定期存款?
- 最新!乘火車禁止、限量攜帶物品清單請(qǐng)查收
- 熱點(diǎn)在線丨氣象記者追風(fēng)現(xiàn)場(chǎng)崩潰嘶吼 網(wǎng)友直呼太瘦了揣兩塊磚吧
- 券商集合理財(cái)產(chǎn)品的優(yōu)缺點(diǎn)是什么?券商理財(cái)每天收益是不顯示出來(lái)的嗎?
- 民營(yíng)銀行存款到期不能兌付怎么辦?民營(yíng)銀行倒閉最高賠付50萬(wàn)嗎?
- 最新:抖音怎么刪自己的評(píng)論
- 銀行理財(cái)t加1什么意思?銀行有無(wú)風(fēng)險(xiǎn)理財(cái)產(chǎn)品嗎?
- 存款保險(xiǎn)制度50萬(wàn)包括利息嗎?存款利率百分之四是啥意思?
- 男孩開冰可樂(lè)被炸傷縫38針 這些飲料暗藏殺傷力有多大
- 國(guó)家稅務(wù)總局:2022年累計(jì)免征新能源車輛購(gòu)置稅879億元
- 注會(huì)哪個(gè)老師講得好 注會(huì)哪個(gè)老師講的好
- 世界觀速訊丨小學(xué)生作文評(píng)語(yǔ)優(yōu)缺點(diǎn)怎么寫 小學(xué)生作文評(píng)語(yǔ)優(yōu)缺點(diǎn)
- 理財(cái)規(guī)劃師和金融理財(cái)師的區(qū)別是什么?理財(cái)規(guī)劃師是什么意思?
- 第三方客戶備付金是什么意思?第三方支付備付金是什么?
- 九典轉(zhuǎn)債申購(gòu)怎么樣?新股申購(gòu)的技巧方法是什么?
- 當(dāng)前物價(jià)形勢(shì)怎么樣?春節(jié)民生商品價(jià)格會(huì)穩(wěn)嗎?
- 浙江啟動(dòng)“千項(xiàng)萬(wàn)億”工程
- 止盈年化收益率是什么意思?止盈不止損是什么意思?
- 全球資訊:2023年首周開門紅 A股投資價(jià)值逐漸顯現(xiàn)
- IMF總裁:2023年全球經(jīng)濟(jì)增長(zhǎng)預(yù)計(jì)將穩(wěn)定在2.7%
- 2022年外貿(mào)規(guī)模將再創(chuàng)新高
- 環(huán)球觀速訊丨2022年CPI同比上漲2%,實(shí)現(xiàn)年度調(diào)控目標(biāo)——物價(jià)持續(xù)平穩(wěn)運(yùn)行
- 申請(qǐng)信用卡被拒對(duì)征信有影響嗎?交通銀行信用卡可以取多少錢?
- 股票小形態(tài)的趨勢(shì)線是什么?怎么樣用趨勢(shì)線買股票?
- 當(dāng)前物價(jià)形勢(shì)怎么樣?春節(jié)民生商品價(jià)格會(huì)穩(wěn)嗎?
- 中央氣象臺(tái)發(fā)布寒潮暴雪雙預(yù)警 部分地區(qū)將先后降溫8℃至12℃
- 熱點(diǎn)!專家詳解奧密克戎BQ.1和XBB變異毒株 白肺不是新冠特有癥狀
- 炒股中摘牌是什么意思?摘牌退市這么容易,A股退市為何就難?
- 1月13日08時(shí)廣西南寧最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(廣西南寧防控措施方案公布)
- 環(huán)球今頭條!1月13日08時(shí)江西九江最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(江西九江防控措施方案公布)
- 老年人購(gòu)買基金有年齡限制嗎?什么基金適合老年人投資?
- 央行票據(jù)指的是什么意思?央行票據(jù)和國(guó)債的區(qū)別是什么?
- 今日熱門!1月13日08時(shí)江西宜春最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(江西宜春防控措施方案公布)
- 集中競(jìng)價(jià)減持對(duì)股票的影響是什么?集中競(jìng)價(jià)減持是利好還是利空?
- 關(guān)注:一針沒(méi)打的人得新冠多嗎 不建議打新冠針的人群有哪些(今日/頭條)
- 購(gòu)買破凈股是好還是壞呢?破凈股一定不能買嗎?
- 全球微動(dòng)態(tài)丨原神中那些讓人愛恨交加的五星武器是限定武器但愛不起來(lái)
- 結(jié)算會(huì)員制度是什么意思?結(jié)算會(huì)員制度的引進(jìn)原因是什么?
- 股票為什么需要復(fù)權(quán)?股票復(fù)權(quán)主要有哪些形式?
- 基本面投資和量化投資的區(qū)別是什么?基本面投資的方法是什么?
- 金融期貨種類分別有哪些?金融期貨的影響因素有哪些?
- 熊市看漲期權(quán)套利是什么意思?熊市看漲期權(quán)套利的收益與危機(jī)是什么?
- 為什么要賣出看跌期權(quán)?賣出看跌期權(quán)的應(yīng)用策略是什么?
- 事件套利的流程具體是什么?事件套利的危機(jī)是什么?
- 天天快看:2023年軍隊(duì)文職人員公開招考今起報(bào)名,這些注意事項(xiàng)要了解
- 環(huán)球熱訊:1月13日08時(shí)山西大同最新疫情高低風(fēng)險(xiǎn)地區(qū)名單有哪些地方(山西大同防控措施方案公布)
- 買進(jìn)套利的內(nèi)容主要是什么?事件套利的含義是什么?
- 每日信息:中央氣象臺(tái)發(fā)布寒潮暴雪雙預(yù)警 部分地區(qū)將先后降溫8℃至12℃
- 價(jià)差套利指的是什么意思?滬深300指數(shù)價(jià)差的計(jì)算方式是什么?
- 漿糊的做法視頻教程 漿糊的做法
- 比例套利指的是什么意思?黃金白銀如何按比例套利?
- 聚焦:最新!海南-五指山01月13日06時(shí)最新消息:五指山疫情新增本土確診病例0例
- 正向套利指的是什么意思?影響正向套利的因素是什么?
- 最新!甘肅-武威01月13日06時(shí)最新消息:武威疫情新增本土確診病例0例
- 基差的變化對(duì)套期保值的影響是什么?基差交易中的賣方交易策略是什么?
- 【報(bào)資訊】全國(guó)教育工作會(huì)議提出這些2023年人才培養(yǎng)“關(guān)鍵詞”
- 基差的表現(xiàn)形式有哪些?基差的具體操作是什么?
- 最新!新疆-五家渠01月13日06時(shí)最新消息:五家渠疫情新增本土確診病例0例
- 今熱點(diǎn):全球首艘智能型無(wú)人系統(tǒng)科考母船交付使用
- 基差的定義主要是什么意思?基差的計(jì)算公式是什么?
- 《川江都市報(bào)》免費(fèi)讀報(bào)活動(dòng)僅剩3天 趕快來(lái)參加!
- 危機(jī)逆轉(zhuǎn)指的是什么意思?危機(jī)逆轉(zhuǎn)的內(nèi)容主要是什么?
- 2023年軍隊(duì)文職人員公開招考今起報(bào)名,這些注意事項(xiàng)要了解
- 標(biāo)準(zhǔn)倉(cāng)單的功能與特點(diǎn)是什么?標(biāo)準(zhǔn)倉(cāng)單的辦理?xiàng)l件主要是什么?
- 標(biāo)準(zhǔn)倉(cāng)單指的是什么意思?標(biāo)準(zhǔn)倉(cāng)單的具體是由什么生成的?
- 焦點(diǎn)日?qǐng)?bào):全球首艘智能型無(wú)人系統(tǒng)科考母船交付使用
- 開年第一單!感受有活力的中國(guó)經(jīng)濟(jì)
- 交割通知的分配及轉(zhuǎn)讓分別指的是什么?交割違約的處理主要有哪些?
-
1居家學(xué)習(xí)期間 90.2%的受訪家長(zhǎng)因?yàn)榕c孩子的溝通問(wèn)題而煩惱
-
2喝礦泉水好? 還是喝純凈水好?
-
3家政業(yè)復(fù)工了 你們家阿姨上門了嗎?
-
4南京警方破獲多起偽裝房屋“中介”進(jìn)行詐騙案件
-
5一季度全國(guó)居民人均可支配收入8561元 同比名義增長(zhǎng)0.8%
-
6名人直播帶貨火爆 直播電商快速生長(zhǎng)期面臨“重塑”
-
7各地“搶人才”的腳步?jīng)]有放慢 新一輪人才大戰(zhàn)透露出哪些信號(hào)?
-
8第20個(gè)世界知識(shí)產(chǎn)權(quán)日 云南2019年專利申請(qǐng)3萬(wàn)余件
-
9高溫來(lái)襲!海南省氣象局:多市縣將出現(xiàn)37度以上高溫天氣
-
10三亞機(jī)場(chǎng)累計(jì)恢復(fù)航線72條 國(guó)際及地區(qū)航線暫無(wú)復(fù)航計(jì)劃