TikTok sẽ bắt đầu gắn nhãn nội dung do AI tạo

Nền tảng mạng xã hội chia sẻ video trực tuyến lớn nhất thế giới TikTok vừa đưa ra thông báo cho biết đang bắt đầu tự động gắn nhãn nội dung do AI tạo (AiGC) đến từ các nền tảng/công cụ của bên thứ ba. Công ty đã hợp tác với các tổ chức Content Authenticity Initiative (CAI) của Adobe và Coalition for Content Prevenance and Authenticity (C2PA) của Microsoft để triển khai tính năng được đánh giá là cực kỳ quan trọng này.

Trên thực tế, công ty thuộc sở hữu của ByteDance đã gắn nhãn nội dung do AI tạo ra trên nền tảng của mình, chẳng hạn như nội dung được tạo bằng hiệu ứng AI của TikTok. Chính sách mới yêu cầu nhà sáng tạo gắn nhãn AIGC cho video có sự can thiệp của AI và tính đến nay, có hơn 37 triệu người sáng tạo đã sử dụng công cụ này để hỗ trợ công việc của mình.

Chia sẻ về mục đích triển khai tính năng gán nhãn nội dung AI, TikTok cho biết trong một bài đăng trên blog:

Trong khi hầu hết mọi người muốn thưởng thức nội dung do AI tạo ra một cách có trách nhiệm, thì sẽ có những kẻ xấu sử dụng AIGC cho những mục đích xấu như lan truyền tin giả, bôi nhọ tổ chức, cá nhân hay lừa đảo…

TikTok sẽ xác định nội dung do AI tạo ra với sự trợ giúp của Content Credentials - một công nghệ do C2PA phát triển giúp phát hiện AIGC dễ dàng hơn bằng cách thêm siêu dữ liệu cần thiết vào nội dung kỹ thuật số. Thông tin xác thực nội dung đã được triển khai trong các công cụ và dịch vụ khác như Firefly, Photoshop của Adobe và hình ảnh được tạo bởi các mô hình Azure OpenAI DALL-E.

TikTok hiện đã bắt đầu triển khai khả năng đọc Content Credentials trên hình ảnh và video, còn những nội dung chỉ có âm thanh sẽ được hỗ trợ sau. TikTok là nền tảng chia sẻ video đầu tiên triển khai công nghệ này và trong những tháng tới, nền tảng sẽ bắt đầu đính kèm thông tin xác thực nội dung vào mọi video mà người dùng đăng tải. Thông tin xác thực này sẽ được tuân thủ ngay cả khi nội dung được tải xuống.

TikTok sẽ có thể gắn nhãn nhiều nội dung AI hơn khi các nền tảng khác áp dụng công nghệ tương tự. “Điều này có nghĩa là ở giai đoạn ban đầu, việc tăng AIGC được gắn nhãn tự động trên TikTok có thể diễn ra dần dần vì cần có siêu dữ liệu Content Credentials (Thông tin xác thực nội dung) để xác định và gắn nhãn từng video cụ thể.

Bất kỳ ai cũng có thể sử dụng công cụ xác minh của C2PA để phát hiện "AIGC được tạo trên TikTok và thậm chí tìm hiểu thời gian, địa điểm và cách thức nội dung được tạo hoặc chỉnh sửa".