Vì sao YouTube không thể tự động chặn video xả súng ở New Zealand bị re-up tràn lan?

Công cụ Content ID của YouTube có thể ngay lập tức phát hiện và xử lý những video vi phạm bản quyền, nhưng tại sao mạng xã hội video này lại không thể chặn đứng các video bạo lực như vụ xả súng ở New Zealand?

Video ghi lại vụ xả súng tại New Zealand lan truyền nhanh chóng trên YouTube, các video đăng lại (re-up) xuất hiện liên tục bất chấp sự cố gắng gỡ bỏ của các quản trị viên. Điều này khiến nhiều người không khỏi lo lắng.

Theo The Verge, công cụ của YouTube có thể phát hiện và xóa bỏ những video re-up sao y bản gốc nhưng với những video chứa một cảnh diễn ra trong thực tế công cụ này không thể tự xử lý mà phải gửi cho các quản trị viên để họ đánh giá. Điều này nhằm đảm bảo công cụ của YouTube sẽ không xóa nhầm các video tin tức có sử dụng một phần của đoạn quay.

Vụ xả súng khiến 49 người chết ở New Zealand khiến cả thế giới bàng hoàng.

Với các sự kiện tin tức lớn, nhóm an toàn của YouTube sự dụng một hệ thống tương tự như công cụ bản quyền Content ID để tìm kiếm các video re-up của video gốc để đối chiếu metadata và hình ảnh. Video re-up sẽ bị gỡ bỏ nếu chưa được chỉnh. Nếu đã chỉnh sửa, công cụ đánh dấu (flag) để quản trị viên đánh giá, xác định xem video có vi phạm chính sách của công ty hay không.

Hệ thống của YouTube có thể gỡ ngay lập tực những nội dung khủng bố, khiêu dâm trẻ em. Nhưng với trường hợp xả súng ở New Zealand vì nó có thể có giá trị tin tức nên hệ thống này của YouTube không thể gỡ bỏ ngay lập tức. Theo quy định của YouTube, các đoạn phim “gây sốc hay khiến khán giả ghê tởm” sẽ bị cấm nhưng nếu nó được dùng với mục đích đưa tin thì hãng chỉ giới hạn độ tuổi để bảo vệ khán giả trẻ tuổi mà thôi.

Người dân địa phương đặt hoa bên ngoài nhà thờ bày tỏ thương tiếc trước các nạn nhân của vụ xả súng tại New Zealand. Ảnh: Getty Images.

Ngoài ra, YouTube phát triển hệ thống Content ID không phải với mục đích xử lý các sự kiện giật gân (breaking news). Để đăng ký nội dung, Content ID của YouTube mất vài phút hay đôi khi là vài tiếng. Với nội dung bản quyền, khoảng thời gian này không phải là vấn đề lớn bởi nếu bị lan truyền và chưa được gỡ bỏ ngay thì nó cũng không gây hại cho công đồng. Nhưng với những video bạo lực như vụ xả súng tại New Zealand, thì hoàn toàn ngược lại.

Một trong những lý do quan trọng khác là vụ xả súng tại New Zealand phát trực tiếp khi đang diễn ra, nội dung liên tục thay đổi nên việc kiểm duyệt video trở nên khó khăn hơn bao giờ hết.

Hiện tại, YouTube vẫn đang nỗ lực xác định video nào có giá trị tin tức và video nào vi phạm quy định bằng cách kết hợp mọi video dường như có tương đồng về metadata và hình ảnh trong livestream gốc của kẻ xả súng. Nhưng nhường như những gì mà YouTube có thể làm được là chưa đủ để có thể giải quyết được vấn đề này.