環(huán)球今日訊!每經(jīng)專訪中國科學(xué)技術(shù)大學(xué)張衛(wèi)明教授:做好科普,讓大眾了解深度偽造技術(shù)的存在,預(yù)防傳統(tǒng)電詐的手段就能有效預(yù)防AI詐騙
以前都說“有圖有真相”“有視頻有真相”……但自AI換臉工具出現(xiàn)后,這就要打一個大大的問號了。
前不久,一男子因AI換臉,10分鐘被騙430萬元。類似這樣的新聞引起了人們對AI換臉技術(shù)的警覺。
(資料圖片)
據(jù)《每日經(jīng)濟新聞》記者了解,市面上已經(jīng)出現(xiàn)了開源的AI換臉軟件支持實時換臉,可以應(yīng)用于線上直播,甚至視頻通話場景。
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長張衛(wèi)明教授團隊曾參與大名鼎鼎的DeepFaceLab(一種利用深度學(xué)習(xí)進行視頻換臉的工具)的開發(fā)。資料顯示,2020年,他帶領(lǐng)團隊參加由Facebook、MIT等組織的全球最大的“深度偽造檢測挑戰(zhàn)賽(DFDC)”,獲得亞軍。
近日,張衛(wèi)明教授接受了《每日經(jīng)濟新聞》(下稱“NBD”)的專訪。談及開源換臉技術(shù),他認為相關(guān)技術(shù)的科普非常重要,可以有效提升民眾的防騙素養(yǎng),“某個先進技術(shù)如果只有很少的人知道和使用,大眾缺少認知才更容易被欺騙?!?/p>
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長張衛(wèi)明 圖片來源:受訪者供圖
深度合成內(nèi)容的檢測要從被動轉(zhuǎn)向主動
NBD:您的多個在研項目與深度防偽檢測有關(guān),可以介紹一下相關(guān)人工智能安全領(lǐng)域的最新研究進展嗎?
張衛(wèi)明:深度偽造檢測相關(guān)研究進程,其實跟人工智能本身的技術(shù)進展有很大關(guān)聯(lián)。近兩年,以GPT為代表的生成式人工智能迎來大爆發(fā)?,F(xiàn)在的深度合成,可以看成是生成式人工智能的一個分支。與諸多技術(shù)一樣,生成式人工智能也是一把雙刃劍,它可能被惡意使用。大家目前最擔心的事情之一,是生成式人工智能帶來的大量偽造信息。
以前我們主要做深度偽造檢測,現(xiàn)在我們關(guān)心的問題更寬泛一點,包括了各種人工智能生成內(nèi)容的檢測?,F(xiàn)在的GPT越來越接近人類,可以被用來寫各種各樣的文案,包括釣魚郵件、虛假新聞等,同時還沖擊到了教育領(lǐng)域,比如現(xiàn)在學(xué)生的作業(yè),你無法斷定是不是機器寫的。所以一個很熱門的問題是,怎樣檢測這些文本是機器寫的還是人寫的。
目前,國內(nèi)外有很多團隊在研究深度合成內(nèi)容檢測,但這些檢測方法主要是被動檢測,仍存在局限。如果能在部署模型階段,植入一些標識,去做主動檢測,這個可能更重要。比如,能不能在生成內(nèi)容里嵌入水印,同時不影響內(nèi)容的質(zhì)量?目前關(guān)于人工智能生成內(nèi)容水印的研究,已經(jīng)變成了新的熱點。
其實我們國家已經(jīng)針對深度合成應(yīng)用密集出臺了相關(guān)規(guī)定,要求深度合成服務(wù)提供者應(yīng)當對生成內(nèi)容進行顯著標記。
給文本做標識是比較難的,但是這個問題確實很重要。我們注意到,OpenAI等公司也在做自己的水印技術(shù)用于機器文本鑒別。類似這樣的研究,正在變成新的熱點。
NBD:一方面,研發(fā)者可以添加水印,另一方面,一些懂技術(shù)的人,也可以去掉水印。由此可見,深度偽造與其檢測,就像一個對抗的循環(huán),您怎么看待這一現(xiàn)象呢?
張衛(wèi)明:確實存在這樣的情況,所有的安全都是一攻一防,安全技術(shù)都有它的邊界。所有的攻防,包括深度合成以及檢測的攻防,都是在動態(tài)博弈中發(fā)展,并不會說最終PK出一個結(jié)局來。
因為安全這個領(lǐng)域,有一個共識,就是沒有絕對的安全,安全永遠是相對的。你做各種各樣的安全防護,理論上來講,它都有可能被攻擊。一旦有新的攻擊出現(xiàn),那就要求我們?nèi)ハ胄碌难a救措施。安全理念的提升,也是在這種對抗過程中動態(tài)地發(fā)展。
前面提到國家出臺相關(guān)規(guī)定明確要求去打顯著標識,其實那個是指可見的水印??梢娝∮幸粋€很大的問題,容易被人刻意擦除。相對來說,不可見水印有一定的優(yōu)越性,一個方面是它不可見,別人不知道這里面有水??;另一方面,即使知道有水印,也不知道水印在什么位置。
目前做水印技術(shù),會把信息藏在非常魯棒的特征空間上,來抵抗各種各樣的擦除。當然它是有邊界的,比如說給視頻擦水印的人,他如果不計損失的話,可以把視頻質(zhì)量變得很低,確實可能把水印擦掉。所以這里面其實是一個博弈。
預(yù)防AI詐騙關(guān)鍵在于知道深度偽造技術(shù)的存在
NBD:我們了解到,您的團隊開發(fā)了一種開源的AI換臉工具,旨在科普這種技術(shù),提升大家對深度合成的認知水平。但有人認為,一旦這種深度偽造技術(shù)普及之后,民眾可能對通話安全有所擔憂。對此,您怎么看?
張衛(wèi)明:我是這么理解的,大家目前最擔心的,其實是用生成式人工智能(比如深度合成)去實施各種各樣的詐騙。這個確實影響很大,但恰恰是因為這樣,更應(yīng)該去做這樣的科普、開源,讓老百姓真的體驗到現(xiàn)在的技術(shù)發(fā)展到什么程度了。
以前我們說有圖有真相、有視頻有真相?,F(xiàn)在要有一個意識,就是有圖可能也不是真相,有實時的視頻,可能也不是真相。
對普通百姓來說,關(guān)鍵是要知道這種深度偽造技術(shù)的存在。因為做防護其實是萬變不離其宗的,不見得需要很高級的技術(shù),防傳統(tǒng)電信詐騙的手段就很有效。比如一個視頻通話里面,對方跟你聊到了金錢的事情,提到了轉(zhuǎn)賬,你可能就要提高警覺了,這可能是一個假視頻,需要多方核實一下。
所以,不知道有這個技術(shù)的存在才是可怕的。目前已經(jīng)有一些愛好者制作了很多樣例,你會看到各種社交平臺出現(xiàn)了大量這種技術(shù)的創(chuàng)造性應(yīng)用。大眾看到后就會理解,現(xiàn)在的技術(shù)可以做到什么程度。這在某種意義上是教育了更多的人,讓他們有這個認知。我們無法阻止技術(shù)的進步,讓民眾了解AI技術(shù)的發(fā)展現(xiàn)狀,才能更好地預(yù)防其潛在危害。
NBD:您認為生成式人工智能未來最適合的應(yīng)用場景有哪些?
張衛(wèi)明:未來可能有很多正向的且比較有趣的應(yīng)用,最典型的是在娛樂領(lǐng)域,比如游戲、影視劇等等。
其實我在課堂上,曾經(jīng)讓一年級本科生去暢想未來這個技術(shù)可能會怎么應(yīng)用。與社會層面更多關(guān)注這一技術(shù)的風(fēng)險所不同的是,年輕學(xué)生們認為它的正面想象空間更大。
以影視娛樂為例,他們暢想可以去換臉體驗演大片?;蛘咴诮巧缪菪陀螒蛑校ㄟ^實時換臉、VR等技術(shù),能以自己的聲音、自己的臉進入到游戲里去。
還有就是心理治療。如果能用這些技術(shù),重現(xiàn)一個人或一個場景的話,可能對心理治療會很有幫助。再有就是在線教育。通過換臉等技術(shù),讓自己特別喜歡的老師,給自己講各種課,讓自己“聽得進去”更“學(xué)得進去”。
還有一個應(yīng)用是新時代的紅色文化宣傳、科學(xué)家精神宣傳。我們最近做了一個嘗試,發(fā)布了數(shù)字人錢學(xué)森,逼真度很高。錢老數(shù)字人發(fā)布以后,好評如潮,很多媒體都報道并轉(zhuǎn)載了相關(guān)視頻。這也讓我意識到,做科學(xué)家精神宣傳、紅色文化傳承,用這種方式可能更適合現(xiàn)在的年輕人,會達到很好的宣傳效果,是一個很好的正向應(yīng)用。
封面圖片來源:視覺中國
搶先讀
- 【全球聚看點】微波爐可以煮土豆粉么 微波爐是否可以煮土豆粉
- 世界要聞:亞運會的運動員村什么樣?先睹為快→
- 美國國務(wù)卿布林肯將訪華
- 天天微速訊:粗心大意的近義詞的反義詞_粗心大意的近義詞
- 如何免費將pdf轉(zhuǎn)換成word文檔-今日看點
- 蘇翊鳴保送清華,鄭欽文成為李娜學(xué)妹,王哲林張鎮(zhèn)麟無緣上海交大|全球新要聞
- 文末有獎丨臺積電三巨頭下周齊聚上海
- 焦點訊息:江西養(yǎng)老金每月能漲多少錢2023?2023年江西養(yǎng)老金調(diào)整方案細則預(yù)估
- 環(huán)球今日訊!每經(jīng)專訪中國科學(xué)技術(shù)大學(xué)張衛(wèi)明教授:做好科普,讓大眾了解深度偽造技術(shù)的存在,預(yù)防傳統(tǒng)電詐的手段就能有效預(yù)防AI詐騙
- 當前關(guān)注:山河智能(002097):6月16日北向資金增持15.17萬股
- 融資買入和普通買入的區(qū)別 主要是這幾點 當前熱議
- “五五購物節(jié)”火熱進行中,活動豐富、優(yōu)惠多多
- 梔子花開花后怎么養(yǎng)才不香 梔子花開花后如何養(yǎng)殖
- 河南安陽:大山里的幸?!搬t(yī)”靠
- 世界時訊:誤食重金屬的癥狀_誤食重金屬后應(yīng)服用什么來緩解病情
- 厲兵秣馬護平安! 信陽市公安局開展全警實戰(zhàn)練兵考核比武工作
- 環(huán)球看點!港股股票回購一覽:22只個股獲公司回購
- 融通財險亮出首份成績單:2022年凈利潤0.16億元 總資產(chǎn)35.28億 焦點播報
- 安徽6月17日進入梅雨期:較常年偏晚2天
- 岳云鵬、大張偉、李雪琴齊聚《開工!喜劇之夜》,快手聯(lián)合打造年度喜劇盛宴
- 64%!二手車金融滲透率太樂觀
- 張藝謀妻子陳婷個人資料照片(張藝謀為什么會看上陳婷) 世界熱點
- 炒熟的核桃有營養(yǎng)嗎 核桃炒熟了還有營養(yǎng)嗎-世界即時看
- 交易員看衰全球經(jīng)濟和需求端 原油易跌難漲
- 中華田園犬的特點和性格(中華田園犬為什么那么好養(yǎng))
- 金庸小說里的大俠為什么都在報“殺父之仇”?|父親節(jié)特輯
- 借主營業(yè)務(wù)成本貸應(yīng)付賬款合法嗎_借主營業(yè)務(wù)成本貸應(yīng)付賬款
- 【世界播資訊】肉煮久了還有營養(yǎng)嗎 肉煮久了還能不能有營養(yǎng)
- 全新高通智能視頻協(xié)作平臺套件具備豐富AI特性,支持Android和Linux-環(huán)球快看
- 當前快報:2023年9月全國計算機等級考試報名將于6月26日開始
- 茉莉開花后怎么養(yǎng) 茉莉花開花期間怎么養(yǎng)護?
- 薏米禁忌與什么一起吃 薏米和哪些食物有食用禁忌呢_環(huán)球頭條
- 環(huán)球今亮點!小城轉(zhuǎn)型:人口小縣試點機構(gòu)整合 收縮型城市撤街設(shè)鎮(zhèn)
- 劍裝災(zāi)厄高達圖片(劍裝災(zāi)厄高達)
- 焦點熱文:開工令什么意思_開工令的前提條件是什么
- 老式防盜門鎖怎么更換(老式防盜門鎖怎么換鎖芯)
- 每日消息!【新華500】新華500指數(shù)(989001)16日漲0.96%
- 中山三鄉(xiāng)文創(chuàng)產(chǎn)品可自助購買!首期推出了5部自助售賣機,位置在→
- 世界快看:只要彼此愛過一次朗誦_只要彼此愛過一次
- 本川智能:公司光模塊相關(guān)產(chǎn)品已量產(chǎn)交貨
- 興化股份(002109):6月16日北向資金增持1.2萬股
- 新動態(tài):AG超玩會首戰(zhàn)零封TES,cat與極光配合完美,一諾尷尬了
- 愛自拍的人心理分析(愛自拍)
- 中國大巴山(重慶·城口)消夏康養(yǎng)季6月21日啟動
- excel索引圖片_excel索引 最新資訊
- 概念動態(tài)|恒勃股份新增“注冊制次新股”概念_環(huán)球微資訊
- 鋯鈮合金股骨頭獲批上市 焦點速看
- 2023城鎮(zhèn)職工醫(yī)保報銷流程是什么-當前看點
- 娃哈哈乳酸菌有營養(yǎng)嗎 娃哈哈乳酸菌是否有營養(yǎng)-環(huán)球速讀
- 全球熱消息:阜陽大學(xué)官網(wǎng)首頁_阜陽大學(xué)
- 貴陽首美整形醫(yī)院怎么樣 醫(yī)院真實案例分享
- 【消息】河南省造紙行業(yè)2022年運行概況及2023年展望 要聞
- 5月銀行結(jié)售匯順差33億美元 如何影響人民幣匯率走勢?
- 國家發(fā)改委:加快向民營企業(yè)開放國家重大科研基礎(chǔ)設(shè)施 視訊
- 中文學(xué)校是座橋 焦點速遞
- 前沿?zé)狳c:CBRE嚴思慧:相比北上深,廣州商業(yè)物業(yè)市場仍是“藍?!?/a>
- 水晶光電(002273):6月16日北向資金減持17.68萬股
- 蛋母雞有營養(yǎng)嗎 蛋母雞有沒有營養(yǎng) 熱消息
- 世界球精選!貴州數(shù)據(jù)寶網(wǎng)絡(luò)科技有限公司:大力推動數(shù)據(jù)要素融合應(yīng)用
- 世界今熱點:國千環(huán)境與國家納米中心合作的項目榮獲中國技術(shù)市場協(xié)會“金橋獎”
- 海內(nèi)外茶界大咖云集峨眉山下論道綠茶未來 全球播資訊
- 選擇大城市逐夢還是小城市安穩(wěn)
- 男子遭遇電詐執(zhí)意轉(zhuǎn)賬 民警苦口婆心幫忙止損 速訊
- 6月16日山東東銀金屬材料無縫管價格持平
- 歐睿國際董事:關(guān)于中國酒飲新消費的三點觀察
- 天天看熱訊:2023年畢業(yè)季租住調(diào)研:42.7%畢業(yè)生房租源自父母支持
- 今日快看!廣東:探索開展產(chǎn)品碳足跡核算,推進新能源汽車等領(lǐng)域標準化工作
- 6月16日德州實華燒堿報價暫穩(wěn)|環(huán)球速讀
- vivo X90更換壁紙方法介紹 環(huán)球熱聞
- 環(huán)球今頭條!郵儲銀行零陵區(qū)支行開展防范非法集資宣傳月活動
- TB上的視頻怎么下載
- 空調(diào)多長時間加氟利昂(空調(diào)氟利昂多長時間加一次) 世界最資訊
- 啤酒禁忌與什么食物一起吃 啤酒不能和什么一起吃-天天觀熱點
- 環(huán)球新資訊:“三高”老年人的飲食痛點
- 能慶祝嗎?國足結(jié)束18個月不勝+新帥首勝+武磊29球升歷史第二!
- 愛士惟攜海外品牌Solplanet亮相Intersolar Europe
- 消協(xié)解讀盲盒新規(guī):與非盲盒商品的價差不應(yīng)過大 全球速看
- 蘇高科17億元小公募債提交注冊 擬全部用于償還回售公司債券
- 當前快看:春天后母心豆豆去世(春天后母心演員表)
- 南方閥門總經(jīng)理易品辭職 2022年公司虧損9653.42萬-世界視訊
- 中證協(xié)二季度證券基金行業(yè)首席經(jīng)濟學(xué)家例會:國內(nèi)經(jīng)濟延續(xù)恢復(fù)向好態(tài)勢
- 右鍵新建沒有word文檔(新建沒有word文檔)_全球球精選
- 世界快資訊:鐵路飛沖好玩嗎 鐵路飛沖玩法簡介
- 光伏周報:隆基綠能再次刷新鈣鈦礦電池轉(zhuǎn)換效率紀錄
- 同樣是24小時,李想和朱江明一天都在想什么? 世界新資訊
- 安康舉行秦巴醫(yī)藥產(chǎn)業(yè)“產(chǎn)供銷”對接大會 全球熱頭條
- 余額寶可以轉(zhuǎn)賬嗎,余額寶可以直接轉(zhuǎn)賬嗎_世界熱資訊
- 新疆維吾爾自治區(qū)政協(xié)向不再連任的住疆十三屆全國政協(xié)常委、委員代發(fā)紀念牌
- 【世界熱聞】繪聲繪影模板能用在PR上嗎(繪聲繪影模板)
- 紅酒禁忌與什么一起吃 紅酒不能和什么食物一起吃呢 環(huán)球播資訊
- 當前觀察:時隔十個月!央行連續(xù)“降息”,啥信號?
- 洛克王國小小白(小小白masa)
- 中國醫(yī)藥: 公司嚴格按照中國證監(jiān)會、上海證券交易所相關(guān)規(guī)定履行信息披露義務(wù)
- 外交部回應(yīng)布林肯訪華:中方將闡明對中美關(guān)系的立場和關(guān)切 堅決維護自身利益
- 環(huán)球快訊:芍藥開花后怎么養(yǎng) 芍藥開花后如何養(yǎng)
- 三科股份(873217):擬10派6元轉(zhuǎn)增8股,共派送現(xiàn)金1422萬元|世界時訊
- 橫店東磁(002056):6月16日北向資金增持150.57萬股
- 觀速訊丨蔬菜什么時候澆水好 那個時候澆水對蔬菜比較 好
- 第九屆上交會來襲 擎朗醫(yī)療機器人參展
- 世界百事通!巨鳥撞穿飛機擋風(fēng)玻璃,殘骸嵌入機身!飛行員仍淡定駕駛