通過AI換臉和擬聲技術,10分鐘騙430萬元;AI虛擬人在聊天中篩選出受害者,人工接力實施詐騙……近期,多起宣稱利用AI技術實施詐騙的案件引發(fā)關注。
“新華視點”記者近日與公安部門核實確認,“AI詐騙全國爆發(fā)”的消息不實,目前此類詐騙發(fā)案占比很低。但公安機關已注意到此犯罪新手法,將加大力度會同有關部門開展技術反制和宣傳防范。
專家表示,隨著AI技術加速迭代,由于使用邊界不清晰,涉詐風險正在積聚,需要高度警惕。
(相關資料圖)
“換臉”式詐騙引發(fā)焦慮:你會被親友的臉騙到嗎?
近日,內蒙古包頭警方通報一起利用AI實施詐騙的案件,福州市某公司法人代表郭先生10分鐘內被騙430萬元。據(jù)通報,騙子通過AI換臉和擬聲技術,佯裝熟人實施詐騙。
該案披露后,不少報道稱需警惕“AI詐騙潮”到來,并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學發(fā)語音、打視頻電話,小劉看到“真人”后信以為真,“借”了6000元給騙子。
那么,“AI詐騙潮”是否真的到來了?
記者調查了解到,AI在技術上確實能做到換臉、擬音,但被用來進行“廣撒網”式詐騙需要具備很多條件。
一位被列入公安部專家?guī)斓拿窬嬖V記者,這類詐騙如果得手必須做到:收集到被換臉對象的個人身份信息、大量人臉圖片、語音素材,通過AI生成以假亂真的音視頻;竊取被換臉對象的微信號;充分掌握詐騙對象個人身份信息,熟悉其與被換臉對象的社會關系,綜合作案成本很高。
他認為:“相關報道對一些案件的典型細節(jié)描述不夠準確。AI涉詐案件仍屬零星發(fā)案狀態(tài)?!彼f,成熟的類型化詐騙犯罪往往具有在全國多地集中爆發(fā)的特點,但當前沒有成規(guī)模的AI詐騙類案件發(fā)生。
公安機關研判,近期網上“AI換臉換聲詐騙在全國爆發(fā)”傳言不實,全國此類案件發(fā)生不到10起,但該動向值得高度關注。網上一鍵換臉功能的App、小程序有技術濫用風險,需要加強技術防范反制等工作。
AI進入快速迭代期,涉詐犯罪風險正在積聚
“當前AI技術發(fā)展來到螺旋式上升的拐點,未來幾年技術迭代將會按月計算?!毕愀劭萍即髮W(廣州)協(xié)理副校長、人工智能學域主任熊輝說。
工信部信息顯示,伴隨AI技術快速發(fā)展,合成技術門檻持續(xù)降低,逐漸向低算力、小樣本學習方向演進,利用手機終端即可完成,對算力和數(shù)據(jù)的要求下降明顯。同時,隨著AI大模型的技術加持,正逐步由面部合成向全身、3D合成發(fā)展,效果更加逼真。
國家開發(fā)投資集團特級專家、廈門美亞柏科AI研發(fā)中心總經理趙建強表示,AI技術正加速向網絡詐騙、虛假信息、色情等領域滲透。如在一些網絡平臺上假冒明星、公眾人物生成視頻圖像,吸引網民。此外,AI技術也可能被用來規(guī)模化地實施違法犯罪,如批量、自動維護網絡賬號,發(fā)送虛假信息,模擬人工在線聊天等。
值得關注的是,當前AI技術不再是實驗室的半成品,引發(fā)熱議的“換臉”“擬音”技術已有較成熟的開源軟件,使用門檻低。
記者注意到,網絡上不乏AI換臉教程。在國內某知名App上輸入“換臉”,彈出的高頻檢索記錄顯示有“換臉軟件”“換臉App免費”“換臉視頻怎么做”“換臉算法”等。一條名為“史上最強AI換臉軟件正式上線了!技術門檻大大降低”的鏈接,介紹了一款換臉軟件,通過視頻演示教程,手把手教授如何使用。
“老話說‘眼見為實’,但今后眼睛看到的也不一定是真實的?!北本┦刑煸蓭熓聞账匣锶藯罨⒊潜硎?,未來涉及AI合成技術的詐騙、敲詐勒索等違法犯罪和肖像、名譽等民事侵權問題可能逐步顯現(xiàn)。
“從現(xiàn)有案例看,這些技術已被不法分子利用。如假冒明星換臉直播、一鍵脫衣、造謠、制作色情視頻等。雖然AI詐騙案件未成氣候,但這一趨勢值得關注,必須提早防范。”一位反詐民警說。
工信部相關負責人表示,隨著AI技術的不斷發(fā)展,通過少量圖片、音頻信息合成特定視頻,利用人工智能模型批量設計詐騙腳本等成為可能,客觀上降低了電信網絡詐騙的實施難度,AI類新型犯罪爆發(fā)可能性進一步提升。
盡快完善相關法規(guī)制度,為AI技術發(fā)展立規(guī)劃線
中國移動信息安全中心品質管理處副處長周晶告訴記者,近年來,國際國內各界在積極探索深度合成技術的有效治理路徑,研判AI技術給社會帶來的風險和潛在威脅,正設法將AI技術發(fā)展納入一定規(guī)則中,做到安全可控。
業(yè)內人士建議,要加強AI反制技術研究,“以AI制AI”。一些科技公司正加強對圖像、聲音偽造技術的反制研究,在公安、金融的視頻認證場景已有應用。有一線民警建議,要加強AI安全技術應用研發(fā),將AI技術應用于犯罪識別、預警、對抗中,實現(xiàn)以“白”AI對抗“黑”AI。
其次,加強源頭治理和行業(yè)引導,及時更新、完善相關法律、標準、規(guī)則,為AI技術發(fā)展保駕護航。
“數(shù)據(jù)是AI犯罪的源頭,保護好公民的個人隱私數(shù)據(jù)安全,就能在最大程度上降低AI違法犯罪的能力?!毙茌x說。
中國互聯(lián)網協(xié)會監(jiān)管支撐部主任郝智超建議,AI技術發(fā)展還要有相關法律法規(guī)來劃紅線、踩剎車。需進一步加強對個人隱私數(shù)據(jù)泄露問題的關注,明確信息監(jiān)管紅線,對AI技術的研發(fā)、傳播、使用做到有規(guī)可循,并根據(jù)技術發(fā)展實際情況,及時完善對技術服務商行為的規(guī)范引導。
此外,還要有針對性地加強反詐宣傳。熊輝表示,未來AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無比接近真實的“真實”?!耙ㄟ^不斷的教育改變大眾觀念,讓人知道眼見不一定為實,有圖不一定有真相,提升對網絡信息的辨識力?!彼f。
公安部有關負責人表示,當前,詐騙集團利用區(qū)塊鏈、虛擬貨幣、遠程操控、共享屏幕等新技術新業(yè)態(tài),不斷更新升級犯罪工具,與公安機關在通訊網絡和轉賬洗錢等方面的攻防對抗不斷加劇升級。公安機關會同相關部門與詐騙分子斗智斗勇,不斷研究調整打擊防范措施,確保始終保持主動權。
工信部表示,下一步,將強化監(jiān)管執(zhí)法,積極會同網信、公安等部門,督促企業(yè)健全完善深度合成信息管理及技術保障措施;鼓勵技術攻關,凝聚產學研用各方力量,提升深度合成風險技術防范能力;加強行業(yè)自律,建立健全深度合成技術相關行業(yè)標準、行業(yè)準則和自律管理制度,督促指導深度合成服務提供者和技術支持者制定完善業(yè)務規(guī)范、依法開展業(yè)務和接受社會監(jiān)督。(記者毛鑫、王成、熊豐、高亢)
標簽:
- “AI詐騙潮”真的要來了?-每日關注
- 當今世界出鏡率最高的雇傭軍頭目——普里戈任-觀速訊
- 鵬鼎控股:5月合并營業(yè)收入同比減少28.23%-環(huán)球報資訊
- 從警41年 王力最后一次護航高考
- 一票難求!今夏最燃的電影盛事,非她莫屬!
- 我就是個普通老百姓|對話 周秉德
- 資訊推薦:對話董明珠
- 京東商城0元搶購 全球速看
- 自己如何制作電子版照片 如何制作電子版照片
- 世界微動態(tài)丨千里馬招標網官網app 中國千里馬招標網
- 天天熱推薦:初級救生員證作用 初級救生員證書多久過期
- 電梯安全管理員證查詢官網 電梯安全管理員證查詢
- 簽約投資超4億元 文旅部精品項目交流對接活動在銀川舉辦
- 快1.8億倍!“九章”取得新突破
- 快1.8億倍!“九章”取得新突破 環(huán)球快消息
- 《看見賀蘭》沉浸式演藝項目將于6月10日正式開演
- 今天全世界都在看的新聞2023.6.8
- 天天熱點評!馬克龍反對北約在日本設聯(lián)絡處,能否阻擋北約“亞太化”?
- 香港:一旦日本核廢水排海,將禁止福島一帶水產進口
- 要聞速遞:牙黑漬怎么去除 牙齒上的黑色污垢是什么
- 小小說投稿平臺 小小說投稿 世界視訊
- 情與誰共 長著翅膀的大灰狼 只為愛長著翅膀的大灰狼 當前視訊
- 世界速訊:企業(yè)會計準則講解2010 企業(yè)會計準則講解
- 掠心女法醫(yī)完結了嗎 掠心女法醫(yī)
- 浦發(fā)銀行銀川分行開展愛心助考活動
- 打造汽配運輸“跨越標準”,跨越速運盛裝亮相BIAME汽車制博會
- 全球速看:我們只是好奇:各家大模型高考作文寫的怎么樣?
- 我國首個自主開發(fā)深水油田群原油產量突破1000萬噸 世界熱文
- 世界快看:秋風乍起讀音 程一電臺秋風乍起稿件
- 成語“春風得意”出自以下哪位詩人的名句 春風得意成為進士及第的代稱與下列哪個歷史人物有關|每日消息
- 【環(huán)球報資訊】江西九江一幼兒園小便池清洗餐具?官方:情況屬實,停業(yè)整頓
- 世界速看:俄洛伊咋玩 俄洛伊怎么玩
- 我國首個自主開發(fā)深水油田群原油產量突破1000萬噸_焦點速訊
- 馬杰斯特摩托車廠家 馬杰斯特摩托車官網
- 天天快報!巫神歸來五開攻略 巫神歸來能玩幾年
- 潮頭觀瀾 | 祖國北疆的綠色答卷
- 4年前考上川外的“輪椅女孩”要畢業(yè)了! 專業(yè)第一,保研北外-今日精選
- 江西九江一幼兒園小便池清洗餐具?官方:情況屬實,停業(yè)整頓
- 【全球獨家】4年前考上川外的“輪椅女孩”要畢業(yè)了! 專業(yè)第一,保研北外
- 潮頭觀瀾 | 祖國北疆的綠色答卷
- 焦點短訊!電腦鬧鐘 電腦如何設置鬧鐘
- 全球報道:2023年1至4月基本醫(yī)?;鹗杖?.14萬億元 同比增長8.1%
- 世界看熱訊:2023年1至4月基本醫(yī)?;鹗杖?.14萬億元 同比增長8.1%
- 電腦怎么設鬧鐘window7 電腦怎么設鬧鐘 全球微動態(tài)
- 竹泉村簡介報告 竹泉村簡介 世界微動態(tài)
- 電腦鬧鈴怎么設置
- win10鼠標滾輪失靈上下亂竄 win10鼠標滾輪失靈修復方法
- 黃瓜籽粉補鈣的吃法 黃瓜籽粉什么人不能吃 全球微資訊
- 兩大國際組織上調中國2023年經濟增長預期
- 多家銀行宣布!今起下調-當前頭條
- 卡霍夫卡大壩到底是誰炸的?俄烏總統(tǒng)發(fā)聲,俄外交部三問美國-環(huán)球速訊
- 2023年1至4月基本醫(yī)?;鹗杖?.14萬億元
- 橫豎的近義詞是什么標準答案 橫豎的近義詞
- 科索沃最大塞族政黨代表:贊賞中國在這次危機上的立場和態(tài)度
- 姚貝娜死了? 姚貝娜死了活該 每日熱聞
- 環(huán)球熱點評!檢測結果令人震驚!中國駐日大使館發(fā)聲
- 鐵的相對原子質量是多少 s的相對原子質量是多少|即時焦點
- 崩壞3邀請碼在哪填 崩壞3邀請碼|全球今日訊
- 時訊:檢測結果令人震驚!中國駐日大使館發(fā)聲
- 煞科mp3 下載 煞科
- 老君一氣化三清是哪三清 一氣化三清是哪三清
- 交易貓客服電話人工 交易貓客服 全球今熱點
- 全球熱頭條丨女扮男裝電視劇大全所有 女扮男裝電視劇大全
- iOS版微信6.3.7更新了哪些內容?
- 全球最資訊丨蘋果手機如何清理垃圾內存 蘋果手機如何清理垃圾
- 張洪亮精品展開幕 展覽將持續(xù)至6月15日
- 今頭條!穿了防曬衣為啥還是被曬黑了?專家教你科學選購防曬衣
- 多地警方緊急提醒:手機這個功能,建議主動關閉!-即時
- 焦點!再保險“國際板”在上海正式啟動
- 穿了防曬衣為啥還是被曬黑了?專家教你科學選購防曬衣|報道
- 環(huán)球訊息:the room1電腦版攻略 theroom電腦版可以在哪里下載
- 一月到12月英語單詞和縮寫 一月到12月英語單詞
- 寶路達電動汽車怎么樣 寶路達電動汽車官網
- 火柴人的復仇4中文破解版 火柴人的復仇_焦點速遞
- 全球觀天下!再保險“國際板”在上海正式啟動
- 學生練腹肌最快的方法
- 每日看點!吳忠市啟動首屆“黃河流域生態(tài)保護主題宣傳實踐月”活動
- 全球觀察:多地警方緊急提醒:手機這個功能,建議主動關閉!
- 熱訊:中俄第6次聯(lián)合空中戰(zhàn)略巡航現(xiàn)場視頻來了
- 信用貸款的申貸條件有哪些?信用貸款所需資料有哪些?
- 天天報道:中國遷都會在哪里 中國遷都五大候選城市
- 中俄第6次聯(lián)合空中戰(zhàn)略巡航現(xiàn)場視頻來了
- 綠鞋機制的優(yōu)缺點是什么?綠鞋機制的主要功能是什么?
- 存本取息的產品功能是什么?存本取息的辦理程序是什么?
- 基準利率必須具備哪些基本特征?我國的利率主要分為哪些類型?
- 七天通知存款的起存金額是多少?七天通知存款的存款幣種有哪些?
- 辦理減額交清的手續(xù)麻煩嗎?減額交清的注意事項是什么?
- 收到小微退息表示的是什么意思?退息的具體操作步驟是什么?
- 用人單位應當向勞動者支付經濟補償?shù)那樾伟男??經濟補償金的常見問題有哪些?
- 公司合并可以采取哪些形式?公司合并的程序通常有哪些?
- 資金的流入流出跟股價的關系是什么?主力資金凈流入對股價的影響是什么?
- 企業(yè)純收入指的是什么意思?企業(yè)純收入的基本內容是什么?
- 利潤總額的分類主要怕包括哪些?利潤總額的意義是什么?
- 行為目標指的是什么意思?行為目標具備哪些要素?
- 快看點丨家用電腦什么牌子的好 家用電腦什么牌子好
- 關聯(lián)企業(yè)的判定主要是哪些?關聯(lián)企業(yè)的特質主要有哪些?
- 每日關注!德惠主頁 德惠吧百度貼吧
- 打印機無法共享錯誤0x000006ba 打印機無法共享錯誤0x000006d9_當前焦點
- 反恐精英插件 反恐精英外掛
- 微頭條丨走進“專精特新”企業(yè)|四川新火炬:發(fā)展有道 創(chuàng)新有“氘”