Facebook đang phát triển một AI chuyên để kiểm duyệt “meme”

Từ nay, việc xúc phạm người dùng trên Facebook bằng ảnh chế sẽ không còn được mạng xã hội làm ngơ nữa.

Những người kiểm duyệt của Facebook thì không thể nào xem qua hết tất cả các hình ảnh trên mạng xã hội của Facebook, vì thế Facebook đang phát triển một AI để giúp đỡ những kiểm duyệt viên trong quá trình này. Trong một bài blog mới đăng, Facebook đã miêu tả một hệ thống được gọi là Rosetta, có khả năng sử dụng công nghệ học máy để nhận diện văn bản trong hình ảnh và video, và sau đó chuyển ngữ sang thành một dạng mà máy có thể đọc được. Facebook thấy rằng công cụ này rất hữu ích đọc các văn bản dạng text hiện hữu trên các hình “meme”.

Công cụ đọc văn bản trên ảnh không phải là cái gì mới, nhưng Facebook đang gặp phải nhiều thách thức khác nhau do nền tảng đã trở nên quá lớn và hình ảnh cũng đã trở nên quá đa dạng. Rosetta được báo cáo là đã đang đi vào hoạt động, trích xuất văn bản từ 1 tỷ hình ảnh và frame video mỗi ngày trên cả Facebook và Instagram.

Hiện tại vẫn chưa rõ Facebook sẽ làm gì với đống dữ liệu này. Những dữ liệu này hữu ích cho các tính năng cơ bản như tìm ảnh hoặc đọc màn hình, theo bài blog chỉ ra. Nhưng có vẻ như Facebook đang nhắm đến những mục tiêu lớn lao hơn, như tìm xem cái gì thú vị trên News Feed của người dùng, và quan trọng hơn là, tìm ra meme nào là meme hài, meme nào là meme xúc phạm người dùng, có khả năng gây thù chuốc oán với những lời bình luận không hay.

Facebook cho biết trích xuất văn bản và học máy đang được sử dụng để “tự động xác định nội dung vi phạm chính sách chống lại ngôn ngữ thù địch của chúng tôi” và họ đang triển khai với nhiều loại ngôn ngữ khác nhau. Với vấn đề kiểm duyệt có vấn đề của Facebook, một hệ thống kiểm duyệt mới mà được vận hành tốt có thể sẽ giúp ít nhiều cho mạng xã hội này.

Nguồn: Báo Tri thức trẻ