記者陳政宇／台北報導 【 10/18 15:00 發稿 ｜ 18:18 更新：新增影音 】
過去常拍攝爭議影片賺取流量的YouTuber「小玉」，今（18）日被揪出製作多部女性知名人物的「換臉性愛影片」獲利，引發議論。對此，受害者之一的民進黨立委高嘉瑜指出，AI換臉事件在我國仍屬無法可管的數位性暴力，她也提供國際因應的相關規範，並誓言將致力推動相關法令。
▲ （資料照／記者陳政宇攝影）
網紅小玉遭爆以「AV女優換臉」獲利，包含脫口秀演員龍龍、網紅白癡公主、奎丁、蕾菈，政治人物黃捷、高嘉瑜都是受害者，警方接獲檢舉後成立專案小組追查，今日上門逮人，目前估計小玉和公司員工等3人，不法所得至少有千萬元以上，引發外界震驚。
對此，高嘉瑜透過臉書表示，AI換臉事件，無法可管的數位性暴力！隨著AI技術的普及，近期在網上，傳出有帳號在推特上提供眾多「AI換臉」色情試看片，其利用 AI Deepfake技術，將網紅的臉移植到色情片的 AV 女優身上。該帳號不僅大量販售換臉色情片，甚至不定期販售素人或名人未經同意外流的性私密影像。
高嘉瑜揭露，這些在網路上未經同意而被換臉、製成色情片的受害者將近百人，規模驚人！除了知名網紅、藝人明星，也不乏女性政治人物，這樣的行為早已對女性的名譽造成不可抹滅的侵害。不管是不是真的，更何況會有很多人認為是真的，這是最可怕的地方。無論如何，沒有人能接受未經自己同意的換臉影片在網路上流傳！
談及我國目前法制規範不足，高嘉瑜說，關於未經本人同意而發布的「AI換臉」影片，其實就是一種變相散播假訊息的行為！但綜觀我國現行針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於AI換臉造假的影片目前仍無法可管。
高嘉瑜指出，就個人資料保護法的層面而言，因現行遭「AI換臉」的受害者多為公眾人物，照片等資料取得相對容易，臉部圖像若為合法公開或自行公開，自然也不在個資法保護範疇，說來說去，最後有可能成立的，也只剩下刑法上的妨害名譽罪了。
▲ 小玉遭爆使用軟體合成謎片。（圖／翻攝畫面）
然而，高嘉瑜認為，網路危害所產生的侵害具有持續性，甚至可能跟隨被害人一輩子。而妨害名譽罪的刑度卻屬相對輕微，因其立法之初，並未考量網路性暴力對被害人所造成的深遠影響，現如今繼續用舊條文來處理新的犯罪現象，顯然有罪責不相當的疑慮！
據此，高嘉瑜也提出國際因應「AI換臉」的相關做法。國際間就濫用AI技術換臉的管控，多著眼於「AI技術倫理」的確立以及將其列為「假訊息」予以管制，以歐盟為例，其所建立的「AI倫理指引」中，囊括了諸如：影像的使用是否經過當事人同意、使用目的是否符合倫理性、是否落實資料保護措施等，一旦有違反上開規範的情形，行政單位就會即時介入並配合網路平台開罰違規用戶。
高嘉瑜進一步說明，美國則不僅要求所有經過AI換臉技術處理的影像，皆須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度。更是直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範！若使用AI換臉技術而有「意圖以性行為與裸體等類似特徵，侮辱或騷擾特定人者」，可處高達5年有期徒刑、行政罰鍰15萬美金、亦應負民事上的侵權損害賠償責任。
因此，高嘉瑜強調，未來將參考國際作法，致力於推動我國「AI換臉」管制之相關法令，關鍵在於：1. 建立獨立的網路影像真實性查核單位。2. 提高網路平台對於用戶發布內容之監督責任。3. 將「AI換臉」之濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任。 4. 於技術層面上，開發相關人工智慧工具以因應之，例如，美國新創公司Deeptrace已開始著手研發深度偽造辨識技術，以辨識影片之真偽。
★ 三立新聞網提醒您：
根據刑法第235條規定，散布、播送或販賣猥褻之文字、圖畫、聲音、影像或其他物品，或公然陳列，或以他法供人觀覽、聽聞者，處2年以下有期徒刑、拘役或科或併科三萬元以下罰金。意圖散布、播送、販賣而製造、持有前項文字、圖畫、聲音、影像及其附著物或其他物品者，亦同。提醒大家勿加入跪求、私給等行列以免觸法。
