Thuật ngữ “deepfake,” đề cập đến các video bị thao túng hoặc các hình thức trình diễn kỹ thuật số khác được tạo ra bởi trí tuệ nhân tạo một cách tinh vi mang lại hình ảnh và âm thanh có vẻ thực tế nhưng lại hoàn toàn bịa đặt.

Trước thềm cuộc bầu cử Tổng thống Mỹ vào tháng 11/2020, các nền tảng xã hội đã chịu áp lực phải giải quyết mối đe dọa của các nội dung truyền thông bị thao túng, bao gồm các nội dung deepfake.

Đề xuất mới của Twitter, được đưa ra trong một bài đăng trên blog, cho biết họ có thể đặt một thông báo bên cạnh các tweet chia sẻ "nội dung tổng hợp hoặc bị thao túng," cảnh báo mọi người trước khi thích hoặc chia sẻ các tweet đó hoặc thêm một liên kết đến một câu chuyện tin tức giải thích về deepfake.

Công ty cũng cho biết họ có thể xóa các tweet chứa nội dung deepfake nếu chúng gây hiểu lầm và có thể đe dọa sự an toàn của mọi người hoặc dẫn đến tác hại nghiêm trọng khác.

Twitter đề xuất xác định nội dung tổng hợp và bị thao túng như bất kỳ hình ảnh, âm thanh hoặc video nào đã bị thay đổi hoặc chế tạo đáng kể theo cách có ý định đánh lừa mọi người hoặc thay đổi ý nghĩa ban đầu của sự vật, hiện tượng.

Twitter năm ngoái đã cấm các tác phẩm deepfake về các nội dung tình dục như các hình ảnh hoặc video thao túng kỹ thuật số ghép một khuôn mặt cá nhân trên cơ thể một người khác trong tình trạng khỏa thân.

Mặc dù tới nay chưa có một video deepfake nào được chế tạo kỹ lưỡng mang tới những hậu quả chính trị lớn ở Mỹ, song điều đó không có nghĩa là sẽ không bao giờ xảy ra. Thực tế cho thấy, vào tháng 5, một video bị thao túng đã làm sai lệch hình ảnh Chủ tịch Hạ viện Nancy Pelosi, khi làm chậm lại bài phát biểu của bà, tạo ra hình ảnh nữ Chủ tịch Hạ viện Mỹ như đang trong tình trạng sức khỏe không ổn định.

Sau sự kiện video Pelosi, hình ảnh Giám đốc điều hành của Facebook Mark Zuckerberg đã xuất hiện trong một video giả mạo trên Instagram, trong đó ông nói rằng bất cứ ai kiểm soát dữ liệu, sẽ kiểm soát tương lai. Facebook, công ty sở hữu Instagram, đã không gỡ video này xuống, mặc dù nó là video deepfake.