AI「復活」逝者成清明節新生意

資料來源：北京青年報 | 2024年04月08日07:28:00

　　只需一張照片和一段逝者錄音，就能在數位世界中讓逝者「永生」…清明節前後，此類AI「復活」廣告宣傳在各大電商和社交平台上日益活躍，甚至演變成一門新「生意」。科技的發展為滿足人們的精神與情感需求提供了更多載體，同時，AI「復活」也引發強烈爭議。有專家提出，AI「復活」技術被濫用，或將帶來侵害個人權益、資料隱私安全、傳播虛假資訊等問題。

　　市場

　　「復活」親人「商品」售價幾十元至幾百元不等

　　「大家好！其實我沒有真正離開這個世界…」不久前，已故藝人與公眾親切「打招呼」的影片在社群平台上引發網友關注，也讓AI「復活」這一話題進入公眾視野。

　　利用AI技術將逝者“復活”，漸已發展成新“生意”。某電商平台的數據顯示，在平台經營AI「復活」相關業務的商家達1,900餘個。

　　在一家電商平台上，某商家稱，讓照片中的人物動起來20元，如果要配上「AI人聲」則需收費50元。數據顯示，該商家已達成超800次交易。在該電商平台上，「復活」親人的「商品」售價在幾十元至幾百元不等。

　　「有的'復活'效果'一眼假'，其實是過去'照片活化'技術的延伸。有的'復活'效果很逼真，多是採用'深度合成'技術。」中國電子技術標準化研究院網安中心評測實驗室副主任何延哲認為，目前市面上絕大部分的AI「復活」並非剛出現的「新技術」。

　　一些商家已開始兜售「AI'復活'科技變現指南」。在某二手交易平台上，記者以19.9元的價格購買了一份「AI'復活'技術教程」。除文字說明外，還有影片講授如何製作「照片活化」的短影片。

目前網路上的AI「復活」工具主要分為三種。

　　一種在手機應用商店中即可下載獲得，只要一張正臉照片就能根據應用中所提供的模板“活化”，可實現歌唱、“演電影”等場景轉化。

　　第二種是利用線上工具，由使用者提供正臉照片和相關音訊文件，經過系統自動編輯後，實現照片中人物「開口說話」的效果，該工具需要使用者支付一定費用。

　　第三種則是在開源社群中，由程式設計師編寫AI測試程序，在經過相關語料訓練後，將照片轉化為能簡單對話互動的「數位人」。此類程式門檻較高，需要一定電腦知識基礎。

　　風險

　　科技使用不當或被利用實施詐騙等

　　AI「復活」的話題引發重重爭議。

　　有專家認為，是否進入公共場域，是判斷AI「復活」是否侵權的重要分界線。

　　世輝律師事務所合夥人王新銳表示，個人利用AI「復活」親人、緬懷紀念，且在必要範圍內使用，無需過度幹預。而如果在公共平台擴散傳播，用於市場獲利，是否侵犯他人或社會公共利益就要特別考慮。

　　「在未依法獲得逝者相關近親屬授權的情況下，擅自使用逝者面容將其『復活』並進行商業推廣，涉嫌侵害逝者的肖像和名譽等權利。」北京康達（廈門）律師事務所高級合夥人張翼騰說，根據民法典相關規定，如未經許可，擅自使用逝者的姓名和麵容用於“復活”，逝者的近親屬有權依法請求行為人承擔民事責任。

　　一家社群平台相關負責人表示，平台認為，未經逝者生前同意或逝者家屬授權，他人不應使用AI或任何技術手段「復活」逝者。該負責人稱，如果家屬投訴或侵權行為被查實，平台將對侵權帳號作出處罰。

　　AI「復活」也涉及「數位遺產」問題。張翼騰說，逝者生前的個人資訊、聊天記錄等「數位遺產」能否繼承，目前沒有明確法律規定。對於誰有權使用、如何避免不當取得、使用時應遵循何種規範等問題，仍需進一步明確。

　　此外，相關服務中，AI需要處理大量個人敏感數據，如面部表情、語音語調等；數據一旦被濫用或洩露，會對用戶隱私造成威脅。業內人士建議，開發者和使用者都應承擔責任，確保技術不會誤導使用者或影響人類情感；同時也要注意隱私保護和資料安全。

　　值得關注的是，AI「復活」技術使用不當，也可能成為犯罪者實施詐騙等犯罪活動的工具。

　　「服務提供者不會也沒有能力核實『逝者』的身份訊息，一些不法分子也可能以『復活』之名行『詐騙』之實。」中國科學技術大學網路空間安全學院教授左曉棟說，面對新的電信網路違法犯罪活動時，不熟悉網路應用的中老年族群更易成為受害者。

　　AI「復活」也可能衍生新型法律糾紛。 「不排除有人會藉AI'復活'來偽造逝者遺囑或做出其他違背逝者意願的事。」王新銳提出，如有近親屬利用這項技術偽造音視頻遺囑，或將耗費更多時間和人力成本來驗證真實性，甚至為司法鑑定帶來一定挑戰。

　　建議

　　AI“復活”產品應加強內容“標識”

　　業內專家認為，技術創新永無止境，其應用應有道德邊界和法律規範。應抓緊完善相關法令，警惕AI「復活」技術可能產生的社會風險。

　　首先，AI「復活」技術的應用，應嚴格遵守知情同意原則，在網路傳播過程中不侵犯他人利益。

　　2022年，國家網信辦等三部門發布《網路資訊服務深度合成管理規定》，對深度偽造等新技術應用進行了規範。規定明確，深度合成服務提供者和技術支持者提供人臉、人聲等生物辨識資訊編輯功能的，應提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意。業內人士認為，如果被編輯人是逝者，理應取得有義務保護逝者肖像權的親屬的同意。

　　其次，不少專家提出，AI「復活」產品應恪守技術管理規範，加強內容「標識」。

　　左曉棟等專家表示，根據相關規定，相關技術服務提供者必須對「生成內容」進行「標識」；在已有原則性要求的背景下，可出台相關行業標準，要求相關技術服務提供者在生成式內容中添加“水印”，防止不法分子借用該技術實施違法犯罪活動。

　　另外，業內人士提出，在資料處理過程中，要更注重隱私保護和資料安全。

　　2023年，國家網信辦、國家發展改革委、教育部等七部門共同發布《生成式人工智慧服務管理暫行辦法》，進一步明確了生成式人工智慧的產業發展規範。辦法規定，提供者應依法承擔網路資訊內容生產者責任，並履行網路資訊安全義務。涉及個人資訊的，依法承擔個人資訊處理者責任，履行個人資訊保護義務。

　　專家也建議，要進一步落實相關平台的主體責任，處置借AI「復活」概念不當牟利的不法商家。

　　「不能放任AI'復活'變成一門沒有規矩和底線的'生意'，尤其要保護對新技術不敏感的中老年用戶群。」中國法學會消費者權益保護法研究會副秘書長陳音江建議，有關平台要幫助中老年用戶群辨別深度偽造技術，取締不當得利的違法違規商家，盡可能減少技術濫用帶來的社會風險。

　　法律界人士建議，有關部門對AI「復活」的需求和其衍生的產業鏈要保持關注、合理辨析，在現行法律法規基礎上做好資料保護、涉詐犯罪風險預防等方面的監管。

　　此外，一般群眾在面對諸如AI「復活」等新技術時，要提高警惕，一方面要避免掉入不法商家借新技術之名設下的虛假宣傳之坑，另一方面也要提防詐騙者運用深度偽造技術喬裝「親友」實施電詐行為。