Theo NBC News, những bức ảnh, video khiêu dâm theo hình thức deepfake về Taylor Swift lan truyền trên X (Twitter) từ ngày 24/1, thu hút 27 triệu lượt xem và hơn 260.000 lượt thích trong 19 tiếng, trước khi tài khoản đứng sau loạt bài đăng này bị report (báo cáo).

Các tác phẩm deepfake miêu tả Swift khỏa thân và trong các tình huống 18+ tiếp tục phổ biến khi nhiều tài khoản khác chia sẻ lại hình ảnh này. Những bài đăng tục tĩu được tạo bằng công cụ AI phát triển hình ảnh giả theo cách hoàn toàn mới, hoặc chúng có thể được tạo bằng cách chụp một hình ảnh thật và "cởi bỏ" lớp quần áo bên ngoài.

Nguồn gốc của những hình ảnh trên không rõ ràng, nhưng nhiều trong số đó cho thấy chúng đến từ trang web lâu đời, được biết đến với việc đăng tải ảnh khỏa thân giả của người nổi tiếng.

Chiến dịch báo cáo ảnh khỏa thân giả của Taylor

Theo NBC News, Reality Defender - công ty phần mềm phát hiện AI - đã quét các hình ảnh về Taylot Swift và cho biết khả năng cao chúng là sản phẩm của công nghệ.

"Sự phổ biến hình ảnh giả trong thời gian qua làm dấy lên hồi chuông báo động về nội dung sai lệch mà AI tạo ra. Bất chấp hiểm hoạ khôn lường, các nền tảng công nghệ như X, vốn đã phát triển các sản phẩm AI tổng quát của riêng họ, vẫn chưa triển khai hoặc thảo luận về các công cụ để phát hiện nội dung AI đi ngược lại nguyên tắc của họ", tờ báo viết.

Trong loạt hình giả, ảnh Swift khỏa thân ở sân vận động bóng đá lan truyền rầm rộ nhất. Điều này xuất phát từ việc trong tháng qua, cô liên tục xuất hiện trên khán đài để cổ vũ bạn trai Travis Kelce thi đấu cho Kansas City ở các giải NFL. "Tôi không biết việc mình xuất hiện quá nhiều có khiến một số ông bố như Brads và Chads khó chịu hay không", Swift từng tâm sự.

Theo Fox News, cộng đồng người hâm mộ Swift không ngừng lên tiếng bảo vệ thần tượng, tạo chiến dịch truyền thông tốt về cô, đồng thời chỉ trích loạt bài viết bẩn. Một tài khoản viết: "Taylor Swift là tỷ phú, cô ấy sẽ ổn thôi. Nhưng không vì thế mà các người có thể đăng ảnh giả mạo cô ấy được. Cô ấy là con người, vẫn biết buồn chứ".

Người khác đồng tình quan điểm này, nói thêm: "Bức ảnh giả Taylor rõ ràng là hành vi quấy rối tình dục. Họ coi phụ nữ như đồ vật được tạo ra cho những tưởng tượng bệnh hoạn và tôi thấy buồn nôn với điều đó".

Rất nhiều ý kiến cho rằng hành vi coi thường Swift nói riêng và phụ nữ nói chung đáng bị lên án mạnh mẽ. Các bài viết đều đính kèm hashtag #protecttaylorswift" (tạm dịch: bảo vệ Taylor Swift).

Hôm 25/1 (giờ địa phương), Page Six đưa tin chủ nhân hit Midnights phẫn nộ trước những gì đang xuất hiện trên mạng. Cô đang xem xét khởi kiện người đứng sau loạt ảnh AI.

“Việc có tiến hành các hành động pháp lý hay không đang được quyết định, nhưng có một điều rõ ràng là những hình ảnh giả mạo này mang tính chất lạm dụng, xúc phạm, bóc lột và được thực hiện mà không có sự đồng ý của Taylor", người trong cuộc nói với The Guardian.

“Tài khoản X đăng ảnh Taylor không còn tồn tại nữa. Thật sốc khi nền tảng truyền thông xã hội nổi tiếng hàng đầu thế giới từng cho phép những con người kia hoạt động", nguồn tin bức xúc nói thêm.

Taylor không phải nạn nhân duy nhất

Theo NBC News, Taylor Swift không tác động trực tiếp, yêu cầu người đứng sau phải gỡ bỏ loạt ảnh giả. Đây là kết quả của chiến dịch báo cáo hàng loạt từ tài khoản của hàng triệu người dùng.

Một trong những người tham gia chiến dịch đã cung cấp 2 ảnh chụp màn hình cho NBC News về các thông báo mà cô nhận được từ X, cho thấy rằng báo cáo của cô đã khiến 2 tài khoản đăng bản deepfake Swift bị đình chỉ vì có "hành vi lạm dụng".

Trên thực tế, X từ lâu đã cấm bài đăng gây hại cho người khác, nhưng nền tảng này nhiều lần giải quyết chậm hoặc không giải quyết được vấn đề về nội dung AI mang tính khiêu dâm.

Đầu tháng 1, một ngôi sao Marvel 17 tuổi kể tìm thấy những hình ảnh giả mạo bản thân trên X, nhưng không thể xóa chúng. Các bài đăng đó khiến tinh thần cô bị ảnh hưởng nặng nề.

NBC News dẫn lời hàng chục nữ sinh trung học ở Mỹ, cho biết họ là nạn nhân của deepfake. Hiện, không có luật liên bang nào của Mỹ quản lý việc tạo ra và lan truyền các nội dung vô căn cứ.

Dân biểu Joe Morelle - người từng đưa ra dự luật vào tháng 5/2023 nhằm hình sự hoá hành vi giả mạo khiêu dâm ở cấp liên bang - chia sẻ về trường hợp giả mạo Taylor Swift và nhiều cô gái khác: "Đây là ví dụ khác về thực trạng hủy hoại hình ảnh phụ nữ hàng loạt".

Carrie Goldberg, luật sư đại diện cho nạn nhân của deepfake và các dạng tài liệu khiêu dâm vô căn cứ trong hơn một thập kỷ qua, cho biết vấn nạn này sẽ trở nên nhức nhối hơn nếu không có biện pháp khắc phục kịp thời.

Cô phát biểu: "Đâu phải ai cũng có hàng triệu người hâm mộ (như Swift) để được ủng hộ khi trở thành nạn nhân. Ngay cả những nền tảng có chính sách deepfake, họ cũng không giỏi giải quyết ảnh giả. Nếu nội dung lan truyền rất nhanh, nó sẽ trở thành kịch bản điển hình".

Theo Goldberg, công nghệ đang gây ra vấn đề thì nó cũng có thể tạo giải pháp là việc hiển nhiên. "AI trên các nền tảng như X có thể xác định hình ảnh giả và xóa chúng. Nếu có một hình ảnh nào đó đang 'sinh sôi nảy nở', nó có thể được xác định là ảnh giả. Vì thế, chẳng có vấn đề gì mà không có cách giải quyết", cô nói thêm.