成人免费午夜在线观看,伊人久久精品,一区二区三区精品

【編輯/周遠方】

作為人工智能領域的新實踐，近年來，利用深度學習、虛擬現實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術，已在多個領域大量應用，伴隨著不斷涌現的使用需求，深度合成內容數量和關注度呈現快速增長態(tài)勢。

另一方面，每一次技術變革，在造福社會的同時，也不可避免地會帶來安全風險。惡意使用該技術生成的音視頻，也顯現出了巨大的破壞力，給個人、企業(yè)造成了聲譽損害和財產損失，也對社會、國家安全造成威脅。

為了對人工智能和深度合成技術的健康發(fā)展提供參考和指引，清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心、北京市大數據中心近日聯合發(fā)布《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），從技術研究、領域應用、發(fā)展趨勢等多個方面，全面深入地介紹和研判深度合成技術及應用帶來的機遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實可行的建議和措施。

《報告》截圖

深度合成爆發(fā)式增長

深度合成的圖像、視頻、音頻、文本等內容，例如熱門影視劇片段、話題明星的換臉視頻等等，具有極強的娛樂性與傳播性，伴隨著技術的發(fā)展成熟，越來越多的創(chuàng)作者在互聯網上發(fā)布和分享深度合成內容，數量逐年高速增長。以視頻為例，《報告》顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發(fā)布的深度合成視頻的數量較2017年已增長10倍以上。

深度合成在影視制作、廣告營銷、社交娛樂等領域發(fā)展出多元化的商業(yè)應用，例如AI合成主播、虛擬偶像、修復歷史老照片、影視劇本地化配音、“數字復活”已過世演員等。

《報告》截圖

一些面向公眾開發(fā)的合成類產品也陸續(xù)推出，《報告》顯示，視頻、語音和文本形式的服務最為普遍，例如支持風格定制的特效視頻制作軟件等風靡網絡；語音方向衍生出了語音導航、有聲讀物、自動新聞播報等應用；文本合成則在新聞報道、詩文創(chuàng)作、聊天問答等方面發(fā)揮著重要作用。

“元宇宙”等新商業(yè)思維的提出，也為深度合成提供了更廣闊的應用場景。阿里巴巴安全感知與認知智能部負責人薛輝表示，比如虛擬人、數字人即是深度合成的主要應用，也是“元宇宙”的重要組成部分。

清華大學新聞與傳播學院常務副院長陳昌鳳認為，深度合成將重新定義虛擬數字化空間，從傳播社會學意義上看，一個新的人類生存場景將以深度合成技術為基石展開。

瑞萊智慧CEO田天表示，技術不斷成熟是深度合成內容迎來爆發(fā)式增長的重要原因。研究論文的持續(xù)增加、開源技術工具和大量代表性方法的涌現，令深度合成內容的效果更加逼真、制作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成內容達到了 “真假難辨”的程度。

“深度偽造”風險加劇，亟需治理

正因如此，深度合成激發(fā)了新內容創(chuàng)造力的同時，也帶來了新的威脅。

隨著技術逐步“平民化”，不法分子可輕易偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國家政要言論擾亂社會與政治秩序。

2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術偽造手機用戶人臉動態(tài)視頻破解身份核驗，為黑灰產業(yè)提供注冊虛擬手機卡等技術支撐的案件。近年來，類似事件開始更多的進入公眾視野。

深度合成內容模糊了真實和虛假的邊界，將對社會信任、媒體信任、政治信任產生巨大的影響。陳昌鳳表示，虛假內容的高難度甄別影響了事實核查的有效性，在社會重大事件或政治事件節(jié)點上，深度合成技術可能被用于操作輿論意見，借助社交媒體，使虛假信息短時間內引發(fā)產生病毒式擴散，激化社會矛盾。

負面風險不斷加劇，如何有效甄別深度合成內容就成為了關鍵，但隨著合成質量的不斷提升，傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用。

浙江大學網絡空間安全學院院長任奎表示，目前對深度合成的檢測主要依賴于人工智能模型，依賴于訓練數據的完備性，包括檢測器泛用性相低、公開數據集適用性、數據敏感等，這些都將帶來諸多挑戰(zhàn)。

田天也表示，新型偽造方法層出不窮、網絡傳播環(huán)境的日趨復雜，加上基于檢測算法存在漏洞缺陷等，反深偽檢測技術面臨“強對抗性”，需要持續(xù)更新與迭代。

《報告》顯示，目前學術界和產業(yè)界均已對反深偽檢測投入了大量研究，Meta（原Facebook）、谷歌、微軟等機構均推出了深度合成視頻認證的方法或產品。在國內，清華大學、中科大等高校在深度偽造內容檢測方面取得顯著成果，清華大學孵化團隊瑞萊智慧推出的深度偽造內容檢測平臺DeepReal擁有工業(yè)級的檢測性能和應對實網環(huán)境對抗變化的檢測能力。清華大學人工智能研究院基礎理論研究中心主任朱軍認為，深度合成檢測面臨持續(xù)的攻防和博弈，未來還需融合多模態(tài)內容的取證分析、基于數字水印的溯源技術等多方面能力，實現精準識別。

同時，我們不能因為技術風險就因噎廢食。

中國工程院院士鄔賀銓認為，第一，任何新技術的出現和應用，都會帶來社會問題，其中當然也有倫理問題；第二，倫理問題需要從道德和法律的層面來解決；第三，對于技術失控和技術濫用的問題，需要通過發(fā)展技術來解決，當前深度合成的技術發(fā)展得還不夠，所謂“道高一尺魔高一丈”，發(fā)展永遠在路上。

《報告》截圖