AI換臉、抄襲氾濫，生成式AI的「防火牆」該如何築起？

新華報導＼1987創刊

根據中國互聯網絡信息中心最新發布的報告，我國生成式AI產品的用戶規模已突破五億大關。然而，在這項技術高速普及的背後，換臉換聲詐騙、版權侵權與學術濫用等亂象也日益猖獗，為社會帶來了嚴峻的挑戰。

近期，利用AI換臉換聲技術製作虛假廣告的案件頻傳，從偽造奧運冠軍推薦商品，到冒充醫生推銷保健品，這些以假亂真的影片嚴重誤導了公眾。業內人士指出，隨著技術成熟，人眼已難辨真偽，最有效的方式是「以AI識別AI」，透過專門的鑑別模型，分析影片中人臉肌肉運動、眨眼頻率等細微破綻來判斷真假。

（圖片取自網路）

針對此亂象，專家認為治理的核心在於全面落實內容標識制度。我國自2025年9月起已施行相關辦法，要求所有AI生成內容必須添加明確標識。平台企業應從源頭嵌入不可篡改的數位浮水印，確保內容在傳播過程中始終能被追溯。同時，法律專家也強調，AI技術的應用必須劃清合法與非法的界線，在影視、教育等正當場景下使用時，需取得授權並遵循最小必要原則，而任何未經授權的肖像冒用、虛假訊息傳播都屬非法濫用。

此外，AI大模型的訓練數據來源也引發了巨大的版權爭議。由於模型訓練需要海量資料，目前多數直接從網路抓取，其中包含了大量受版權保護的作品，這也引發了創作者的強烈反彈。專家建議，AI開發者應建立完善的版權合規機制，優先使用已授權的資源，並在生成內容時嵌入防抄襲檢測與版權標識。同時，主管部門也應積極拓展合規的訓練數據供給管道，以化解技術發展與版權保護之間的衝突。

在學術領域，學生與研究人員利用AI撰寫論文、抄襲作業的現象同樣引起了廣泛關注。專家們普遍認為，單純的禁止並非長久之計，「堵不如疏」才是更務實的治理之道。教育者應引導學生將AI定位為提升效率的輔助工具，而非投機取巧的捷徑，並改革考核方式，更側重於評估學生的獨立思維過程，從而確保學術誠信的底線不被動搖。