Facebook sử dụng AI để xử lý nhiều nhiệm vụ kiểm duyệt

Facebook đang sử dụng AI để xử lý nhiều nhiệm vụ kiểm duyệt trên nền tảng của mình. Những nội dung bị vi phạm chính sách rõ ràng thì sẽ được xử lý tự động, những nội dung khác thì được người dùng hay bộ lọc của Facebook gắn cờ. Còn lại nếu chưa rõ ràng có vi phạm hay không thì sẽ được chuyển vào danh sách chờ kiểm duyệt để xem xét lại.

Ảnh minh hoạ (Ảnh: internet)

Hiện nay, Facebook sử dụng khoảng hơn 15.000 nhân viên trên khắp thế giới để kiểm duyệt. Công việc của những nhân viên này là sắp xếp các bài đã bị gắn cờ và xem xét xem những bài này có vi phạm chính sách của Facebook không. Việc kiểm duyệt này của Facebook cũng tuân thủ nguyên tắc về thứ tự thời gian bài đăng hay thứ tự thời gian được báo cáo.

Tuy nhiên, việc này sẽ ảnh hưởng đến chất lượng cũng như quy định về cách sử dụng lao động của Facebook khi trước đó đã từng bị cáo buộc là không hỗ trợ đầy đủ và sử dụng lao động trong điều kiện có thể dẫn đến chấn thương. Việc sử dụng trí tuệ nhân tạo AI trong kiểm duyệt nội dung đã được Facebook hướng đến với tiêu trí là mức độ lan truyền, mức độ nghiêm trọng và khả năng vi phạm các quy tắc.

Facebook giới thiệu quy trình kiểm duyệt mới của mình, thông qua bộ lọc của máy học để phân tích các bài đăng, hệ thống mới này có tên là WPIE và đây là thuật toán đánh giá các yếu tố khác nhau trong bất kỳ bài đăng nhất định nào đó. Trong quá khứ, sử dụng AI trong kiểm duyệt đã vấp phải phản ứng của các nhà phê bình vì cho rằng đã thiếu yếu tố con người trong kiểm duyệt nội dung.

Chris Palow, một kỹ sư trong nhóm phát triển của Facebook, cho biết hệ thống mới sử dụng AI sẽ đóng vai trò quan trong trong kiểm duyệt nội dung, AI sẽ kết hợp với con người để đánh giá bởi AI chưa bao giờ là hoàn hảo nên không thể chỉ phụ thuộc vào nó.

Facebook không trả lời là có bao nhiêu % bài đăng hệ thống phân loại chính sác những sẽ bổ sung nhiều AI hơn vào trong kiểm duyệt.

Hà Trần