Bảo vệ quyền riêng tư trong thời đại dữ liệu tự động và thuật toán điều khiển

Trong năm 2023, hãng bảo hiểm y tế Cigna tại Mỹ vấp phải chỉ trích nghiêm trọng khi xúc tiến một hệ thống tự động có tên "PxDx" nhằm xử lý các hồ sơ yêu cầu bồi thường y tế. Thay vì các chuyên viên phải kiểm tra từng hồ sơ, thuật toán được sử dụng để nhanh chóng từ chối các yêu cầu chỉ trong vài giây mà không hề mở xét từng hồ sơ cụ thể. ProPublica đã chỉ ra rằng thuật toán này vận hành theo kiểu xử lý hàng loạt, không có ngữ cảnh hay sắc thái cần thiết trong các quyết định, dẫn đến những lời từ chối tự động thiếu công bằng, gây tổn hại nghiêm trọng đến quyền lợi bệnh nhân.

Thông tin cá nhân ngày càng được lan truyền rộng rãi trên mạng internet như hình ảnh, lịch sử mua sắm hay những tìm kiếm trên các công cụ tìm kiếm. Tuy nhiên, việc những mảng thông tin này bị phân tán không đồng nghĩa với việc chúng đã bị trao đi hoàn toàn. Quyền riêng tư chính là khoảng không gian để mỗi người được nhận diện toàn diện, không bị biến thành dữ liệu thuần túy phục vụ mục đích thương mại hay thuật toán phân loại.