AI 深度偽造 — 機遇與風險
AI 深度偽造正成為人工智能最引人入勝的應用之一，帶來機遇與風險。這項技術在內容創作、娛樂、教育及市場推廣方面展現潛力，同時亦引發安全、錯誤資訊及數碼倫理的嚴峻挑戰。了解 AI 深度偽造的機遇與風險，是善用其優勢並確保數碼時代安全與信任的關鍵。
人工智能已解鎖創造「深度偽造」的能力 — 高度逼真但虛構的媒體。從無縫換臉的影片到聲音克隆，聽起來與真人無異，深度偽造代表了一個「眼見（或耳聞）未必為實」的新時代。這項技術為各行業帶來創新機遇，但同時也帶來嚴重風險。
本文將探討AI 深度偽造是什麼、其運作原理，以及它在當今世界帶來的主要機遇與危險。
什麼是深度偽造？
深度偽造是由 AI 生成或修改的合成媒體（影片、音頻、圖片甚至文字），能夠令人信服地模仿真實內容。這個詞源自「深度學習」（先進的 AI 演算法）和「偽造」，約於 2017 年在 Reddit 論壇流行，當時用戶分享換臉名人影片。
早期深度偽造因惡意用途（如將名人臉孔植入假影片）而聲名狼藉，令這項技術背負負面形象。然而，並非所有 AI 生成的合成內容都是惡意的。像許多技術一樣，深度偽造是一種工具 — 其影響（好壞）取決於使用方式。
這類合成內容亦可帶來益處。雖然有不少負面例子，但技術本身並非天生正面或負面 — 其影響取決於使用者及其意圖。
— 世界經濟論壇
機遇與正面應用
儘管深度偽造聲譽有爭議，但（通常較中性稱為「合成媒體」）在創意、教育及人道領域提供多項正面應用：
娛樂與媒體
電影製作人利用深度偽造技術創造驚艷視覺效果，甚至在銀幕上「返老還童」。例如，最新的《印第安納·瓊斯》電影透過訓練 AI 使用哈里遜·福特數十年的舊片段，數碼重現年輕版哈里遜·福特。
- 復活歷史人物或已故演員進行新表演
- 通過精準對嘴改善配音質素
- 在電影、電視及遊戲中製作更具沉浸感和真實感的內容
教育與培訓
深度偽造技術可通過逼真模擬和歷史重演，令學習體驗更具吸引力和互動性。
- 生成具生命力的歷史人物教育模擬
- 創建醫療、航空及軍事培訓的逼真角色扮演場景
- 在安全受控環境中為學習者準備真實世界情況
無障礙與溝通
AI 生成媒體透過先進翻譯及聲音保留技術，打破語言及溝通障礙。
- 將影片配音成多種語言，同時保留講者聲音及神態
- 緊急服務使用 AI 語音翻譯，翻譯時間縮短高達 70%
- 手語虛擬形象為聽障人士翻譯語音
- 為失去說話能力者提供個人化聲音克隆
醫療與治療
在醫學領域，合成媒體可通過增強培訓及治療應用，促進研究及患者福祉。
- AI 生成醫療影像增強診斷演算法的訓練數據
- 為阿茲海默症患者製作包含親人影像的治療影片
- 公共衛生宣傳觸及多元受眾（例如大衛·貝克漢防瘧疾活動觸及 5 億人）
私隱與匿名保護
矛盾的是，同樣的換臉技術既可製造假新聞，也能保護私隱。活動家、吹哨人或弱勢人士可用 AI 生成的逼真面孔替代真面孔拍攝，隱藏身份而不需明顯模糊處理。
紀錄片保護
紀錄片《歡迎來到車臣》（2020）利用 AI 生成的面部覆蓋技術，掩蓋逃避迫害的 LGBT 活動家身份，同時保留其面部表情與情感。
社交媒體匿名化
實驗系統可自動將未同意被識別者的社交媒體照片中的面孔替換為合成相似面孔。
聲音私隱
「聲音皮膚」技術可實時改變講者聲音（如線上遊戲或虛擬會議），防止偏見或騷擾，同時傳達原始情感與意圖。
深度偽造的風險與濫用
易於製作的深度偽造激起嚴重的關注與威脅。2023 年一項調查顯示，60% 的美國人對深度偽造感到「非常擔憂」，成為他們最害怕的 AI 相關問題。
錯誤資訊與政治操控
深度偽造可被用作大規模散播虛假資訊的武器。偽造的公眾人物影片或音頻可顯示他們說或做未曾發生的事，欺騙公眾並破壞對機構的信任。
烏克蘭戰爭宣傳
市場操控
非自願色情與騷擾
深度偽造最早且最普遍的惡意用途之一是製作假色情內容。攻擊者只需幾張照片，即可生成逼真的色情影片，通常針對女性，且未經同意。
- 嚴重的私隱侵犯及性騷擾形式
- 造成羞辱、創傷、名譽損害及勒索威脅
- 多位知名女演員、記者及私人個人受害
- 美國多州及聯邦政府提議立法刑事化深度偽造色情
詐騙與冒充騙局
深度偽造成為網絡罪犯的新武器。AI 生成的聲音克隆甚至實時視頻深度偽造被用來冒充可信人士進行詐騙。
真實財務損失
CEO 聲音詐騙
視頻會議詐騙
此類深度偽造驅動的社交工程攻擊日益增多 — 報告顯示過去幾年全球深度偽造詐騙激增。高度可信的假聲音/視頻與數碼通訊速度結合，令受害者措手不及。
信任流失與法律挑戰
深度偽造的出現模糊了現實與虛構的界線，引發廣泛的社會及倫理問題。隨著假內容越來越逼真，人們可能開始懷疑真實證據 — 這對司法及公眾信任構成危險。
主要挑戰
- 證據否定：真實的不當行為影片可能被違法者稱為「深度偽造」，令新聞報導及法律程序複雜化
- 權利與所有權：AI 生成的人像權利歸屬誰？
- 法律框架：誹謗或中傷法律如何適用於損害名譽的假影片？
- 同意問題：未經許可使用他人面孔或聲音製作深度偽造侵犯權利，但法律仍在追趕中
偵測軍備競賽
- AI 偵測系統識別細微瑕疵
- 分析面部血流模式
- 監測眨眼異常
技術演進
- 深度偽造方法逃避偵測
- 持續的貓捉老鼠遊戲
- 需要不斷創新
所有這些挑戰清楚表明，社會必須面對如何在 AI 時代真實驗證媒體，以及如何追究深度偽造創作者的濫用責任。
掌握深度偽造時代：尋求平衡
AI 深度偽造呈現技術進步的經典兩難：巨大潛力與風險並存。一方面，我們擁有前所未有的創意及有益用途 — 從保存聲音、語言翻譯到構想新型敘事及保護私隱。另一方面，深度偽造的惡意用途威脅私隱、安全及公眾信任。
魔瓶已開，無法封回。與其恐慌或全面禁令，我們需要平衡策略：鼓勵合成媒體的負責任創新，同時建立強有力的防濫用護欄。
多方防禦策略
未來關鍵是最大化利益同時最小化傷害。多方面努力正同步展開：
技術偵測
科技公司及研究人員投資偵測工具及真實性框架（如數碼水印或內容驗證標準），幫助人們分辨真偽媒體。
政策與立法
全球政策制定者正探索立法，遏制最嚴重的深度偽造濫用行為 — 例如禁止假色情、選舉虛假資訊，或要求 AI 修改媒體時披露。
教育與意識提升
數碼素養計劃可教導公眾如何批判性評估媒體，留意深度偽造跡象，就像人們學會識別電郵詐騙或網絡釣魚一樣。
協作方法
透過共同努力 — 技術專家、監管者、企業及市民 — 我們能建構一個深度偽造 AI 普及、熟悉且值得信賴的未來。
未來之路
深度偽造現象終將長存。專家主張非恐慌或全面禁令，而是採取平衡策略：鼓勵合成媒體的負責任創新，同時建立強有力的護欄防止濫用。
促進正面應用
在倫理指引下鼓勵娛樂、教育、無障礙及醫療領域的應用
- 創意敘事與視覺效果
- 教育模擬與培訓
- 無障礙與溝通工具
- 醫療研究與治療
實施強有力保障
投資安全措施、法律框架及規範，懲治惡意使用
- 偵測與驗證系統
- 法律責任框架
- 平台內容監管
- 公眾意識推廣
在這樣的未來，我們既能利用深度偽造帶來的創意與便利，也能警覺並抵禦其帶來的新型欺騙。機遇令人振奮，風險真實 — 認識兩者是塑造造福社會的 AI 媒體生態的第一步。
