Báo cáo thực thi Tiêu chuẩn cộng đồng lần thứ năm cung cấp dữ liệu về công tác thực thi chính sách của Facebook từ 19/10 đến 20/3.
Theo Facebook, giờ đây mạng xã hội này có thể chủ động phát hiện tới 90% nội dung gây thù ghét mà hãng gỡ xuống trước khi ai đó báo cáo cho họ – con số này tăng từ 24% khi Facebook công bố báo cáo lần đầu tiên vào năm 2018.
Trên Instagram, Facebook đã tăng tỷ lệ phát hiện chủ động nội dung về tự tử và tự gây thương tích lên 89,7% trong Q1 – cải thiện hơn 12 điểm kể từ báo cáo lần trước; khối lượng nội dung Facebook đã xử lý tăng 40%.
Facebook cũng đã đưa vào các bộ dữ liệu mới. Báo cáo lần này có số liệu về 12 lĩnh vực chính sách trên Facebook và 10 lĩnh vực chính sách trên Instagram…
Tiến bộ của Facebook trong việc phát hiện ngôn từ gây thù ghét phần lớn nhờ vào những tiến bộ trong AI gần đây trên một số lĩnh vực: Hiểu biết đa ngôn ngữ; Toàn bộ bài viết hoặc sự hiểu biết đa phương thức.
AI là công cụ quan trọng để ngăn chặn sự lan truyền của thông tin sai lệch, bởi nó cho phép Facebook tận dụng và mở rộng quy mô công việc của đội ngũ kiểm chứng thông tin độc lập, những người kiểm duyệt nội dung trên nền tảng của chúng tôi.
- SimSearchNet (SSN): Khi một nội dung bị các đối tác kiểm chứng thông tin độc lập bên thứ ba của Facebook dán nhãn là thông tin sai lệch, SSN có thể phát hiện các kết quả gần như tương tự – ví dụ: khi ai đó đã cố tình thay đổi nội dung để qua mặt hệ thống của chúng tôi. SimSearchNet đang kiểm duyệt hàng tỷ bức ảnh mỗi ngày để tìm các bản sao của thông tin sai lệch hoặc gây hiểu lầm đã bị gỡ xuống.
- Khớp hình ảnh cho quảng cáo: Chúng tôi đã xây dựng các phân loại thị giác máy tính mới để giúp thực hiện chính sách cấm tạm thời quảng cáo và rao bán khẩu trang y tế và các sản phẩm khác. Vì đôi khi mọi người sửa đổi quảng cáo của các sản phẩm này để cố gắng qua mặt hệ thống của Facebook, nên chúng tôi còn sử dụng thêm tính năng đối chứng dựa trên đặc điểm địa phương để tìm các trường hợp nội dung bị chỉnh sửa. Trong nhiều trường hợp, Facebook đã chủ động hành động – trước khi bất kỳ ai báo cáo cho chúng tôi. Các mô hình dựa trên kết quả khớp mẫu hiện đang tự động từ chối hàng ngàn quảng cáo hàng ngày với độ chính xác rất cao.
Được biết, trong tháng 4, Facebook đã áp dụng nhãn cảnh báo với khoảng 50 triệu nội dung liên quan đến thông tin sai lệch về dịch COVID-19 trên Facebook, dựa trên khoảng 7.500 bài viết của các đối tác kiểm định thông tin độc lập của hang; Nhãn cảnh báo giúp hạn chế tới 95% số lần người dùng nhấp vào xem nội dung đó.
Đáng chú ý, kể từ ngày 1/3, Facebook đã gỡ bỏ hơn 2,5 triệu nội dung không trả phí bán khẩu trang, nước rửa tay, khăn lau khử trùng bề mặt và bộ kit thử nghiệm Covid-19.
Để hỗ trợ xử lý vấn đề này, Facebook đã dựa vào công nghệ thị giác máy tính mà hãng đã sử dụng trong nhiều năm để phát hiện và loại bỏ nội dung bán vũ khí và thuốc phiện.
