- Các hệ thống AI như AI Overviews có thể “ảo giác” ở quy mô rất lớn, tạo ra hàng chục triệu câu trả lời không chính xác. Đây là hiện tượng phổ biến của các mô hình ngôn ngữ lớn, khi AI đưa ra thông tin nghe có vẻ hợp lý nhưng thực tế không đúng. AI Overviews là tính năng tóm tắt nội dung trực tiếp trên trang tìm kiếm, giúp người dùng nhận câu trả lời nhanh mà không cần truy cập website. Tuy nhiên, chính cách tổng hợp này lại khiến sai sót dễ lan rộng hơn, vì người dùng có xu hướng tin vào kết quả hiển thị đầu tiên.
Trên thực tế, Google cũng thừa nhận người dùng cần kiểm tra lại thông tin do AI tạo ra. Đây là cảnh báo hiếm hoi từ chính nhà phát triển, trong bối cảnh công nghệ này ngày càng được tích hợp sâu vào trải nghiệm tìm kiếm.
Trước đó, AI Overviews từng gây tranh cãi khi đưa ra các gợi ý vô lý, như khuyên người dùng thêm keo vào pizza hoặc cung cấp thông tin sai về các vấn đề sức khỏe. Những sự cố này buộc Google phải điều chỉnh thuật toán và hạn chế hiển thị ở một số truy vấn nhạy cảm.
Mặc dù vậy, giới chuyên gia cho rằng vấn đề không nằm ở lỗi đơn lẻ mà là bản chất của AI tạo sinh. Khi các hệ thống này ngày càng phổ biến, nguy cơ thông tin sai lệch xuất hiện trên diện rộng sẽ trở thành thách thức lớn, không chỉ với Google mà với toàn bộ ngành công nghệ.
