元宇宙合規報告（十二）深度合成技術

毋庸置疑的是，人工智能（AI）、大數據、區塊鏈等技術在短短十幾年內已經深刻的改變了我們的生活方式，在這個日益虛實交融的世界裏，新的事物在不斷被創造，並漸漸與舊世代的事物形成更加龐大而復雜的關系網。

深度合成，Deep Synthesis（以前也曾被稱為Deepfake，即深度僞造）作為AI技術的新應用、新實踐，近年來備受關注。一方面，利用深度合成技術可以自動生成文本、語音、圖像、視頻等各種數字內容，已經成為了當前元宇宙發展的關鍵技術；另一方面，近年來科技迅猛發展，深度合成技術門檻快速降低，導致濫用技術的案例頻出，引發各類風險。

因此，當前亟待以立法的形式對深度合成技術的應用進行規制，尤其是要對深度合成內容的用途、標記、使用範圍以及濫用技術的處罰作出具體規定，同時明確責任主體，才能真正實現“技術向善”。

2022年1月28日，國家網信辦最新公布了《互聯網信息服務深度合成管理規定（徵求意見稿）》（簡稱《深度合成徵求意見稿》），對作為元宇宙基石的深度合成技術做出了一系列較為明確的規定和指引。那么，今天颯姐團隊就來和大家聊一聊，深度合成技術怎么用才合規。

一、深度合成技術及其在元宇宙中的實際應用

從技術上來說，“深度合成”技術，實質上就是利用深度學習算法來實現的，其主要使用的兩個技術：自動編碼器和 生成對抗網絡（GAN）。一個用來進行新數據的生成，一個用來對生成數據進行鑑別，經過二者無數次“合作”，最終生成出極具“真實感”的合成數據。當前大家耳熟能詳的AI換臉就是利用深度合成所創造的。

而根據《深度合成徵求意見稿》第二條，深度合成技術指的是：利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術，包括但不限於：

（1）篇章生成、文本風格轉換、問答對話等對文本內容進行生成或者編輯的技術；

（2）文本轉語音、語音轉換、語音屬性編輯等對語音內容進行生成或者編輯的技術；

（3）音樂生成、場景聲編輯等對非語音內容進行生成或者編輯的技術；

（4）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等對圖像、視頻內容中人臉等生物特徵進行生成或者編輯的技術；

（5）圖像增強、圖像修復等對圖像、視頻內容中非生物特徵進行編輯的技術；

（6）三維重建等對虛擬場景進行生成或者編輯的技術。

按照該定義，AI語音，NFT生成藝術、虛擬演唱會、全息人像投影、虛擬人數字人、AR購物等元宇宙的重要組成部分都屬於深度合成技術的具體應用。而只要在中華人民共和國境內應用深度合成技術提供互聯網信息服務，或為深度合成服務提供技術支持的活動，均在《深度合成徵求意見稿》的規制範圍內。

隨着“深度合成”技術逐漸成熟並進入商業化應用階段，其巨大的經濟價值已經逐漸向世人展露。當前，“深度合成”已經在音樂、影視、綜合娛樂、社交等多個行業的場景中被實際推廣應用。

例如，在電影大片的制作中其應用最為成熟，不僅可以通過提升音視頻制作的效率和質量，顯著降低影片制作成本，還能賦予藝術創作者更大的想象空間。甚至深度合成技術還可以使一些已過世的演員進行在影視劇中以虛擬數字人的形態“復活”，

在綜合娛樂方面深度合成同樣表現不俗，某互聯網大廠常用的臉部特效、換臉短視頻等已經在我們的生活中屢見不鮮。虛擬偶像、虛擬主播、甚至已經有能力為消費者提供娛樂、購物、向導等服務。另外，在教育、藝術、醫療和科研等領域，深度合成技術都可以為這些產業帶來新的應用。

二、深度合成技術存在的風險

自從2017年Deepfake（深度僞造）出現後，AI技術在造假方面的潛力為世人所驚嘆。此後，GAN算法的突飛猛進不僅僅可以做到AI換臉，甚至能自動生成文本、人工語音、圖像等各種數字內容。

深度合成技術在為我們的生活提供便利的同時，也帶來了一系列的風險。例如AI換臉制作的大量色情視頻正在我網絡上泛濫成災，不僅嚴重侵犯了他人的肖像權、隱私權和名譽權、個人信息安全等個人私益，對社會公共秩序和善良風俗也造成了嚴重的侵害。甚至有不法分子利用AI換臉、合成聲音等技術實施詐騙等犯罪活動。

2021年，山東省公安廳網絡安全總隊就公布了幾個利用深度合成技術實施詐騙的真實案例。2020年12月，某公司財務接到領導電話要求立刻給供應商轉款兩萬元，並將轉账信息以郵件形式發送到對方郵箱，理由是避免繳納滯納金。由於電話中老板的口音十分逼真，公司財務毫無懷疑地在一小時內完成了轉账。

更有甚者，在山東網安總隊公开的第二個案例中，犯罪分子利用了社交媒體視頻進行詐騙。其首先通過盜用了他人社交媒體账號，獲取他人面部信息，通過與账號原所有人親屬進行視頻電話的形式要求親友向其指定账號轉账，成功地取得了受害人的信任，騙取了大量錢財。

利用深度合成技術實施違法犯罪活動是其風險的表象，而深度合成技術真正危險的是其對社會信任關系的嚴重破壞。信任關系的存在，對於任何個體、社群來說都是無比重要的，甚至有學者認為，信任是自古以來人類社會存在的基礎之一，關於人與人之間的信任關系的重要性，無論做出多高評價都不為過。

張康之老師認為，在人類歷史的農業社會階段中，人們之間的信任關系以傳統習俗的形式表達，而近代工業社會中所存在的人們之間的信任關系，則屬於契約型的信任關系。雖然社會信任的形式會隨時代變遷而改變，但無論如何，社會的維系必須建立在社會信任的基礎上。

深度合成技術擁有破壞社會信任的潛力，俗話說，眼見為實，但當眼見、耳聞都不再是真實，謊言和欺騙甚囂塵上時，社會信任將會蕩然無存。康德在《實踐理性批判》中就曾論證了“無信任社會”的可怕。按照康德的理論，假如謊言是社會的通行法則，那么人人可以說謊。在這種情況等下，作為一個擁有正常理智的人，我們不會再去相信說謊的人，也就不會再相信這世界上的每一個人。不被相信的謊言也就不再有意義，這就形成了一個悖論。康德也正是據此反推“不說謊”和社會信任才是社會存在和發展的正常形態，因為只有在社會信任中，說謊者才能以謊言獲利。

如今，信息網絡已經深入到我們生活的各個角落，毫無節制地濫用深度合成技術，會給我們帶來的必然是一個價值混亂、信任喪失並分崩離析的社會。因此，以法律的形式對其進行合理規制具有緊迫性和必要性。

三、深度合成技術合規要點

《深度合成徵求意見稿》作為我國第一個專門規制深度合成技術的法規，對元宇宙企業等科技公司的合規發展有着至關重要的作用。

（一）責任主體及具體要求

根據《深度合成徵求意見稿》第二條，深度合成技術責任主體有兩類：

（1）在中華人民共和國境內應用深度合成技術提供互聯網信息服務的主體；

（2）為深度合成服務提供技術支持的主體。

對於這兩類主體，根據《深度合成徵求意見稿》第七條規定，其需要嚴格落實信息安全主體責任，建立健全算法機制機理審核、用戶注冊、信息內容管理、數據安全和個人信息保護、未成年人保護、從業人員教育培訓等管理制度，具有與新技術新應用發展相適應的安全可控的技術保障措施。

另外，《深度合成徵求意見稿》第七條特別規定了互聯網應用商店服務提供者的責任：應當對深度合成服務提供者提供的深度合成應用程序履行安全管理責任，依法依約核驗深度合成應用程序的安全評估、備案等情況；對違反國家有關規定的，應當及時採取不予上架、暫停上架或者下架等處置措施。

（二）程序合規

1. 備案

根據《深度合成徵求意見稿》第十九條，深度合成服務提供者應當按照《互聯網信息服務算法推薦管理規定》（以下簡稱《算法規定》）的有關規定，在提供服務之日起十個工作日內履行備案手續。完成備案的深度合成服務提供者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號並提供公示信息鏈接。

2. 安全評估

根據《深度合成徵求意見稿》第十一條和第十六條，隨應用深度合成技術的情況不同，需進行不同種類的安全評估：（1）自行進行安全評估；（2）按法定要求進行安全評估。

對於提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當自行开展安全評估。而對於深度合成服務提供者开發上线具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，則需按法定要求進行安全評估。

（三）實體要求

《深度合成徵求意見稿》第八條到第十四條集中規定了深度合成技術責任主體的要求，主要包括：信息安全、真實身份信息認證、技術審核評估、數據安全保障、內容管理、內容可識別和可追溯、內容標識幾個方面。

其中需要特別注意的是內容標識部分，根據《深度合成徵求意見稿》第十四條：深度合成服務提供者提供深度合成服務的，應當使用顯著方式對深度合成信息內容進行標識，向社會公衆有效提示信息內容的合成情況。

對於違反《深度合成徵求意見稿》的行為，在承擔行政責任方面將面臨警告、責令限期改正、暫停相關業務、暫停信息更新，並處一萬元以上十萬元以下罰款的後果。而在民事方面，由於違反相關規定而給他人造成損害的，應依法承擔民事責任。在刑事方面，對於構成犯罪的行為，依法追究刑事責任。

寫在最後

深度合成技術是一個再典型不過的科技“雙刃劍”，只有為其劃定適當的使用框架，才能真正意義上科技興國、造福全民。

當然，沒有任何一個技術是在人類做好萬全准備後才出現，深度合成、大數據、區塊鏈技術都是如此。在我們即將全面迎來數字化世界的今天，既不能因噎廢食，以過於嚴格的立法限制深度合成的發展，也不能對其過於寬松放任自流。如何更加恰當、合理的立法，是我們全體法律人對時代承擔的責任。

以上就是今天的分享，感恩讀者！

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。