Instagram cam kết điều chỉnh thuật toán để hạn chế hiển thị nội dung “có thể gây hại” cho người dùng

Nếu ví von mạng xã hội như một khu rừng mưa nhiệt đới khổng lồ, thì bên cạnh sự đa dạng của hệ sinh thái là những nội dung giải trí bổ ích, cũng sẽ có đầy mối hiểm nguy ẩn chứa chính là những nội dung độc hại, có thể ảnh hưởng tiêu cực đến tâm lý của người dùng.

Để giải quyết vấn đề, Instagram vừa đưa ra cam kết điều chỉnh thuật toán nhằm lược bỏ tối đa những nội dung “có thể gây hại” xuất hiện trên nền tảng và tiếp cận với người dùng. Công ty cho biết thuật toán hỗ trợ cách sắp xếp thứ tự các bài đăng trong nguồn cấp dữ liệu của người dùng và trong Stories giờ đây sẽ loại bỏ ưu tiên những nội dung “có thể chứa hành vi bắt nạt, lời nói thù ghét hoặc kích động bạo lực…”.

Trên thực tế các quy tắc cộng đồng hiện tại của Instagram cũng đã cấm tương đối triệt để những loại nội dung nêu trên. Tuy nhiên, những thay đổi về mặt thuật toán được kỳ vọng sẽ tạo ra một hình thức phòng ngừa nội dung độc hại chủ động hơn, đặc biệt là những nội dung chưa đến tay hoặc bị bỏ lọt bởi đội ngũ kiểm duyệt của nền tảng. Thuật toán sẽ cố gắng dự đoán các bài đăng mà bạn có khả năng sẽ báo cáo và xếp hạng chúng trong nguồn cấp dữ liệu cá nhân.

Cho đến thời điểm hiện tại, Instagram đã cố gắng ẩn những nội dung có thể bị phản đối khỏi các khu vực hiển thị công khai của ứng dụng, chẳng hạn như trong mục Explore (Khám phá), nhưng không thay đổi cách hiển thị đối với những người dùng theo dõi các tài khoản đăng loại nội dung này. Những tinh chỉnh mới trong thuật toán có nghĩa là các bài đăng có nội dung được coi là “tương tự” với những bài đăng đã bị xóa trước đó sẽ ít hiển thị hơn ngay cả với những người theo dõi.

Bên cạnh đó, Instagram cũng sẽ hạ xếp hạng các bài đăng có khả năng gây khó chịu trong nguồn cấp dữ liệu của từng cá nhân dựa trên lịch sử báo cáo nội dung của họ. Những thay đổi này chỉ ảnh hưởng đến từng bài đăng chứ không phải tài khoản tổng thể. Instagram đồng thời cũng sẽ gửi cảnh báo đến những người vi phạm về lý do tại sao bài đăng của họ đã bị xóa.