Chống Deepfake đang trở thành một chủ đề nghiêm túc hơn, khi con người đang phải đối mặt với sự gia tăng của những nội dung do AI tạo ra, giống hệt với con người, địa điểm và sự kiện hiện có theo cách không chân thực...

Theo ông Andrew Jenks - Chủ tịch của Liên minh Xác minh và Chứng thực Nội dung (C2PA), một tổ chức do Microsoft đồng sáng lập, "Deepfake là một dạng tấn công vào nhận thức" và có thể gây ra những hậu quả cực kì nghiêm trọng.

Sự phát triển của AI tạo sinh đang tạo cơ hội cho những kẻ có động cơ xấu dễ dàng phát tán những thông tin sai lệch, dẫn đến những nguy cơ nghiêm trọng như gian lận, đánh cắp danh tính, can thiệp bầu cử và các thiệt hại khác... "Các thông tin về nguồn gốc thường biến mất khi nội dung được chia sẻ, khiến người dùng khó phân biệt đâu là thông tin đáng tin cậy. Việc xác định nguồn gốc và truy vết lịch sử của nội dung sẽ giúp mọi người hiểu rõ hơn và tránh bị lừa gạt", ông Andrew Jenks cho biết thêm.

Để góp phần chống deepfake, Microsoft đã phát triển Bộ công cụ Content Integrity Suite, giúp tăng cường tính minh bạch cho các nội dung trực tuyến.

Bộ công cụ này gồm có một ứng dụng (đang ở giai đoạn thử nghiệm riêng), cho phép các nhà sáng tạo và nhà xuất bản đưa thêm Thông tin Xác thực Nội dung (Content Credentials) vào những tác phẩm của họ, hoặc chèn siêu dữ liệu được xác thực với các thông tin như ai tạo ra nội dung, vào thời điểm nào và liệu có sử dụng AI hay không.

Là một phần của tiêu chuẩn kỹ thuật C2PA, Thông tin Xác thực Nội dung sẽ được mã hóa vào các bức ảnh, video và âm thanh, giúp dễ dàng phát hiện việc chỉnh sửa hoặc can thiệp sau này.

Vì siêu dữ liệu là vô hình, nên Microsoft cũng cung cấp công cụ kiểm tra tính toàn vẹn của nội dung và tiện ích mở rộng trên trình duyệt web, giúp người dùng quét thông tin xác thực và xem thông tin xuất xứ. Người dùng cũng có thể tìm biểu tượng Thông tin Xác thực Nội dung trên hình ảnh và video trên các nền tảng như LinkedIn.

Ông Jenks chia sẻ, “Cho dù AI có được sử dụng hay không thì Thông tin Xác thực Nội dung cũng mang lại một lớp minh bạch quan trọng, giúp mọi người đưa ra quyết định chính xác hơn về những nội dung mà họ tiếp nhận và chia sẻ trực tuyến. Khi việc xác định nguồn gốc và lịch sử của nội dung trở nên dễ dàng hơn, mọi người sẽ có xu hướng cảnh giác hơn với những tài liệu thiếu thông tin về nguồn gốc rõ ràng.”

Microsoft cũng đang áp dụng công cụ Thông tin Xác thực Nội dung trong các sản phẩm AI tạo hình ảnh của mình như Designer, Copilot, Paint và một số mô hình trong Azure OpenAI Service để công khai việc sử dụng AI, thông tin về thời điểm tạo hình ảnh và các chi tiết khác. Các biện pháp AI có trách nhiệm khác nhằm ngăn chặn việc lạm dụng deepfake gồm có việc làm mờ khuôn mặt trong các bức ảnh tải lên trên Copilot.