Theo Nikkei, Yahoo Nhật Bản đã bắt đầu cung cấp cho khách hàng, thậm chí cả đối thủ cạnh tranh, một dịch vụ miễn phí sử dụng trí tuệ nhân tạo (AI) để xác định mức độ phù hợp của bình luận được đăng bằng tiếng Nhật trên các diễn đàn trực tuyến. Dịch vụ sẽ cho phép các công ty khách hàng xóa bài đăng hoặc cảnh báo đến người viết nếu nội dung đó bị coi là gây tổn hại đến người khác.

Cụ thể hơn, công nghệ AI của Yahoo Nhật Bản sẽ phân tích các từ và cụm từ xuất hiện trong các bình luận để xếp hạng chúng theo thang điểm từ 1 đến 10 về mức độ “xây dựng” và sự liên quan của chúng với chủ đề. AI cũng có khả năng quyết định xem bài đăng mang tính khách quan hay thiên vị và xếp hạng các bình luận cho phù hợp với nội dung. Yahoo đã sử dụng công nghệ học sâu nội bộ (in-house deep learning) này để đưa ra kết luận từ lượng lớn dữ liệu trên dịch vụ tin tức của mình kể từ năm 2018.

Khoảng 60.000 bình luận trên Yahoo News được đánh giá bởi 3.000 màn hình máy tính được chắt lọc và kết hợp để tạo ra công nghệ này. Dựa trên phân tích AI, công ty khách hàng có thể tự động đánh dấu các bài đăng được đánh giá cao hoặc xóa những nội dung bị đánh giá thấp. Đại diện của NewsPicks, trang tin tức trên nền tảng mạng xã hội, cho biết hiện công nghệ AI mới được sử dụng để “giúp phát hiện các bài đăng vi phạm điều khoản dịch vụ”.

Các trang web mạng xã hội trên khắp thế giới thời gian qua đã trở thành “nhà” cho những bình luận vu khống, phân biệt đối xử và các thuyết âm mưu có thể kích động sự căm ghét. Bộ Tư pháp Nhật Bản dẫn số liệu từ các tổ chức nhân quyền cho biết, nước này hiện có hơn 1.500 trường hợp mỗi năm, kể từ năm 2015, lạm dụng trực tuyến, đưa tin giả mạo và thuyết âm mưu. Ông Kentaro Kawabe, Chủ tịch Z Holdings, đơn vị sở hữu Yahoo, nói rằng công ty sẽ tạo ra các tiêu chuẩn cho ngành. Cùng với dịch vụ miễn phí, Yahoo sẽ yêu cầu các công ty khách hàng chia sẻ thông tin phân tích AI, với hy vọng tích lũy thêm dữ liệu để phát triển các công nghệ tiên tiến hơn trong sử dụng chung.

Yahoo cũng cho biết sẽ tiết lộ các thuật toán AI và các thông tin khác theo cách dễ hiểu cho người dùng. Tuy nhiên, vẫn có một số ý kiến lo ngại rằng công nghệ AI có thể trở thành một hình thức kiểm duyệt mới, làm giảm quyền tự do ngôn luận.