美國總統特朗普已簽署一項法案，將非自願人工智慧生成的深度偽造色情內容定為刑事犯罪，該法案還要求網站在48小時內刪除任何非法圖像。
特朗普於5月19日將該法案正式簽署成法律，這項名為TAKE IT DOWN法案的立法，全稱為"通過制止網站和網路上的技術深度偽造來解決已知剝削的工具"。
這項由第一夫人梅拉尼婭·特朗普大力支持的法案，明確將發布或威脅發布成人或未成年人非自願親密圖像（包括深度偽造）的行為定為聯邦犯罪，特別是當行為人意圖造成傷害或騷擾時。違法者將面臨從罰款到監禁等不同程度的處罰。
根據法案規定，網站、線上服務或應用程式必須在48小時內刪除非法內容，並建立完善的內容下架流程。
特朗普在白宮玫瑰園的講話中指出，並隨後在社交媒體平台Truth Social上發布表示，該法案涵蓋範圍還包括"由人工智慧生成的偽造內容"，即通常所說的深度偽造。
梅拉尼婭·特朗普曾親自遊說國會議員支持該法案，並在一份官方聲明中稱，這項法律的通過是"全國性的勝利"。
她表示："人工智慧和社交媒體是下一代的數位糖果——甜美、令人上癮，並且精心設計用來影響我們孩子的認知發展"。
她進一步強調："但與糖不同，這些新技術可以被武器化，能夠塑造信念，更令人擔憂的是，還會影響情緒，甚至可能產生致命後果"。
參議員Ted Cruz和Amy Klobuchar 於2024年6月共同提出該法案，並於今年4月成功通過兩院表決。
美國成為最新禁止露骨深度偽造內容的國家
近年來，深度偽造技術被用於有害目的的案例日益增多。其中一個引起廣泛關注的事件發生在2024年1月，流行歌手泰勒·斯威夫特的深度偽造生成的不當圖像在X平台上迅速傳播。
作為緊急應對措施，X平台暫時禁止用戶使用Taylor Swift的名字進行搜索，同時立法者積極推動立法，將製作深度偽造圖像的行為定為刑事犯罪。
在國際範圍內，英國等國已經先行一步，在2023年的《線上安全法》中明確將分享深度偽造色情內容認定為非法行為。
安全科技初創公司Security Hero發布的2023年研究報告揭示了一個令人擔憂的事實：網路上發布的深度偽造內容絕大多數屬於色情性質，且99%被這類內容針對的個體是女性。
相關推薦:美國參議院推進Genius穩定幣法案