Sự bùng nổ của AI trong quản lý nội dung mạng xã hội hiện nay
Các mạng xã hội lớn như Facebook và Instagram thuộc sở hữu của Meta, có lượng người dùng hàng ngày lên đến 3,5 tỷ, đang đặt niềm tin lớn vào các công nghệ AI và học máy để cải thiện hệ thống kiểm duyệt nội dung. Meta đã phát triển và ứng dụng nhiều công cụ AI, như PyTorch và các mô hình ngôn ngữ Llama, nhằm tăng hiệu quả xử lý dữ liệu khổng lồ và tự động phát hiện nội dung vi phạm.
Tuy nhiên, dù đầu tư nhiều vào AI, kết quả thực tế vẫn chưa đạt kỳ vọng khi các nền tảng này tiếp tục phải đối mặt với lượng lớn nội dung bạo lực, nguy hiểm và khiêu dâm, nhất là đối với nhóm thanh thiếu niên đang trong giai đoạn phát triển não bộ nhạy cảm.
Thực trạng nội dung rủi ro trên Instagram
Báo cáo điều tra của BBC Eye tiết lộ Instagram đã được dùng để chạy quảng cáo có nội dung xâm hại trẻ em tại Ấn Độ, với các đường link dẫn đến kênh Telegram bán nội dung trái phép với giá khoảng một đô la Mỹ. Thử nghiệm của BBC cho thấy chỉ trong một tuần sau khi theo dõi các tài khoản phụ nữ đăng nội dung thông thường, hệ thống đã bắt đầu hiển thị quảng cáo mang tính dục hóa, trong đó có cả các quảng cáo liên quan đến trẻ em.
Hệ thống kiểm duyệt gặp nhiều hạn chế
Mặc dù Meta tuyên bố rằng các hệ thống tự động và AI nâng cao sẽ giúp nền tảng an toàn hơn, thực tế đã cho thấy các bộ lọc hiện tại chỉ phát hiện được những gì đã được lập trình sẵn để nhận biết. Việc các quảng cáo xâm phạm vẫn được duyệt trước khi bị phát hiện khiến các vấn đề tồn đọng ngày càng nghiêm trọng hơn.
Năm 2026, tại một phiên tòa ở Mỹ, Meta và YouTube bị kiện vì coi thường sự an toàn của trẻ em, ưu tiên tối đa hóa thời gian tương tác thay vì bảo vệ người dùng. Một bồi thẩm đoàn đã phán quyết Meta chịu tới 70% trách nhiệm, cùng với khoản bồi thường hơn 6 triệu USD. Cùng lúc đó, một phiên xử khác cũng buộc Meta phải trả 375 triệu USD vì để xảy ra tình trạng lạm dụng trẻ em trên nền tảng của mình.
Đăng ký bản tin QMVN
Nhận tin tổng hợp mỗi sáng - chỉ những bài đáng đọc, không spam.
Vấn đề căn bản: Mô hình kinh doanh và thuật toán đề cao tương tác
Các chuyên gia và người tố giác như Frances Haugen đã cảnh báo rằng các nền tảng xã hội được thiết kế để giữ chân người dùng càng lâu càng tốt, gây nên sự lệ thuộc và ảnh hưởng tiêu cực tới sức khỏe tinh thần, đặc biệt là tuổi teen. Việc chào đón các thuật toán gợi ý nội dung tương tác cao làm gia tăng số liệu truy cập nhưng đồng thời cũng hỗ trợ phát tán nội dung gây hại.
Vấn đề nằm ở chỗ hệ thống AI mặc dù có thể gắn cờ phát hiện nhanh hơn nhưng không thể giải quyết tận gốc nguyên nhân: mô hình kinh doanh dựa trên giữ chân người dùng tối đa bằng mọi giá. Khi mô hình này không đổi, thuật toán và AI dù có hiện đại đến đâu cũng không thể làm cho môi trường mạng xã hội trở nên an toàn hơn đối với đối tượng dễ tổn thương như thanh thiếu niên.
Do đó, trước khi kì vọng AI có thể điều chỉnh tất cả những vấn đề trên mạng xã hội, các nhà quản lý cần xem xét cải cách luật pháp, đặc biệt là các điều khoản về trách nhiệm của nền tảng mạng xã hội để tập trung vào chính thiết kế thuật toán thay vì chỉ đơn thuần trách nhiệm về nội dung người dùng. Đây có thể được xem là hướng đi cần thiết để bảo vệ người dùng, đặc biệt là trẻ em và thanh thiếu niên khỏi các ảnh hưởng tiêu cực từ mạng xã hội.
Những điều rút ra từ bài viết
- AI chưa đủ khả năng kiểm duyệt toàn diện nội dung độc hại trên mạng xã hội với quy mô khổng lồ của Meta.
- Quảng cáo xâm hại trẻ em trên Instagram tại Ấn Độ cho thấy sự yếu kém trong hệ thống kiểm duyệt tự động.
- Mô hình kinh doanh dựa trên giữ chân người dùng có thể khiến thuật toán ưu tiên nội dung gây tranh cãi hoặc nguy hiểm.
- Các vụ kiện tại Mỹ chỉ rõ trách nhiệm pháp lý của mạng xã hội về an toàn người dùng, đặc biệt là trẻ em.
- Cần cải cách luật pháp để tập trung truy trách nhiệm vào các thuật toán gợi ý nội dung thay vì chỉ nội dung do người dùng tạo ra.
Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.
