Để trả lời cho câu hỏi này, các nhà khoa học máy tính từ Đại học Buffalo (Mỹ) vừa công bố hệ thống trí tuệ nhân tạo (AI) có khả năng phát hiện Deepfake chỉ bằng cách phân tích ánh sáng phản chiếu trong đôi mắt. Thử nghiệm trên ảnh chân dung, công cụ này hiệu quả đến 94% khi nhận diện Deepfake.

Theo The Next Web, hệ thống AI giúp vạch trần Deepfake bằng cách phân tích giác mạc vốn có bề mặt giống như gương phản chiếu hình ảnh mỗi khi có ánh sáng chiếu vào. Đối với ảnh chụp chân dung người thật, những đốm sáng phản chiếu trong hai mắt sẽ giống nhau, nhưng cặp mắt trong ảnh do Deepfake tạo ra thường thiếu nhất quán, mỗi bên mắt phản chiếu đốm sáng khác nhau hoặc vị trí phản xạ không khớp. 

AI tìm kiếm những điểm khác biệt bằng cách lập bản đồ gương mặt, phân tích ánh sáng phản chiếu trong mỗi nhãn cầu. Hệ thống tạo ra những điểm ảnh như một thước đo độ tương đồng, điểm ảnh càng nhỏ thì càng có khả năng gương mặt đó là Deepfake.

Tuy nhiên, hạn chế của hệ thống là chỉ dựa vào nguồn ánh sáng phản xạ ở hai mắt. Nếu một trong hai mắt bị che mất trên ảnh thì xem như không thể áp dụng phương pháp này. Mặt khác, có thể thực hiện xử lý hậu kỳ để cặp mắt trong ảnh Deepfake trở nên chân thật hơn.

Các nhà nghiên cứu vẫn tiếp tục khắc phục những nhược điểm nhằm nâng cao hiệu quả của hệ thống AI nhận diện Deepfake. Hiện tại, hệ thống mới chỉ nhận diện một số hình ảnh tương đối đơn giản, chưa thể phát hiện những Deepfake tinh vi nhất.

Trên thế giới, Deepfake đang bị sử dụng vào những mục đích bất chính như lan truyền tin giả hay ghép mặt người nổi tiếng vào phim khiêu dâm.