Sự bùng nổ của AI trong quản lý nội dung mạng xã hội hiện nay
Các mạng xã hội lớn như Facebook và Instagram thuộc sở hữu của Meta, có lượng người dùng hàng ngày lên đến 3,5 tỷ, đang đặt niềm tin lớn vào các công nghệ AI và học máy để cải thiện hệ thống kiểm duyệt nội dung. Meta đã phát triển và ứng dụng nhiều công cụ AI, như PyTorch và các mô hình ngôn ngữ Llama, nhằm tăng hiệu quả xử lý dữ liệu khổng lồ và tự động phát hiện nội dung vi phạm.
Tuy nhiên, dù đầu tư nhiều vào AI, kết quả thực tế vẫn chưa đạt kỳ vọng khi các nền tảng này tiếp tục phải đối mặt với lượng lớn nội dung bạo lực, nguy hiểm và khiêu dâm, nhất là đối với nhóm thanh thiếu niên đang trong giai đoạn phát triển não bộ nhạy cảm.
Thực trạng nội dung rủi ro trên Instagram
