Theo The Verge, thế giới đang ngày càng lo lắng về sự lan truyền các video, hình ảnh giả mạo và Adobe cho biết họ cũng chia sẻ những lo ngại và cam kết thêm nguồn lực cho vấn đề nhức nhối này. Năm ngoái, các kỹ sư của Adobe cũng đã tạo ra một công cụ trí tuệ nhân tạo giúp phát hiện các nội dung đa phương tiện được tạo bằng cách ghép, nhân bản và xóa các đối tượng.

Adobe cho biết họ không có kế hoạch ngay lập tức biến công cụ này thành sản phẩm thương mại, nhưng người phát ngôn nhấn mạnh rằng đó chỉ là một trong nhiều nỗ lực của Adobe giúp phát hiện tốt hơn các hình ảnh, video, âm thanh và tài liệu bị can thiệp.

Trong một tuyên bố đăng trên blog, Adobe cho biết “trong khi chúng tôi tự hào về tác động của Photoshop và nhiều công cụ sáng tạo khác của Adobe đã đóng góp cho thế giới, chúng tôi cũng nhận ra ý nghĩa đạo đức trong công nghệ của mình. Nội dung giả mạo là một vấn đề nghiêm trọng và ngày càng cấp bách”.

Nghiên cứu này được thiết kế đặc biệt để phát hiện các chỉnh sửa từ công cụ Liquify trong Photoshop, thường được sử dụng để điều chỉnh hình dạng và thay đổi biểu cảm khuôn mặt. Adobe cho biết “các hiệu ứng của tính năng này có thể rất tinh vi khiến nó trở thành các thử nghiệm hấp dẫn để phát hiện cả những thay đổi mạnh mẽ và tinh tế đối với khuôn mặt”.

Các kỹ sư đã đào tạo một mạng lưới thần kinh trên cơ sở dữ liệu gồm các khuôn mặt được ghép nối, chứa các hình ảnh cả trước và sau khi chúng được chỉnh sửa bằng cách sử dụng Liquify. Các thuật toán kết quả đem đến hiệu quả ấn tượng. Khi được yêu cầu phát hiện một mẫu khuôn mặt được chỉnh sửa, các tình nguyện viên con người đã trả lời đúng 53% trong khi thuật toán đúng đến 99%. Công cụ này thậm chí có thể đề xuất làm thế nào để khôi phục một bức ảnh về diện mạo ban đầu.

Nhà nghiên cứu Richard Zhang, người đóng góp lớn với dự án cho biết “ý tưởng về một nút vạn năng ma thuật để hoàn nguyên các chỉnh sửa hình ảnh vẫn còn xa thực tế. Tuy nhiên, chúng ta đang sống trong một thế giới nơi ngày càng trở nên khó khăn hơn để tin tưởng vào thông tin kỹ thuật số và tôi mong muốn được khám phá thêm về lĩnh vực nghiên cứu này”.

Các nhà nghiên cứu cho biết dự án này là công trình đầu tiên được thiết kế để phát hiện ra các chỉnh sửa trên khuôn mặt và là một bước đệm quan trọng hướng tới việc tạo ra các công cụ có thể xác định các thay đổi phức tạp hơn như thao tác cơ thể, các chỉnh sửa trắc quang như làm mịn da.

Dù nghiên cứu đầy hứa hẹn nhưng các công cụ như thế này cũng không thể ngăn chặn tác động có hại của các nội dung bị thao túng. Như chúng ta đã thấy với sự lan truyền các tin tức giả mạo ngay cả khi nội dung hoàn toàn sai hoặc có thể được sửa lỗi nhanh chóng, nó vẫn sẽ được chia sẻ và đón nhận trên phương tiện truyền thông mạng xã hội với tốc độ chóng mặt. Biết một điều gì đó giả mạo vẫn chỉ là một nửa của trận chiến, thuyết phục người dùng tin đó là điều giả mạo mới là điều không hề dễ dàng.