Nguy cơ vi phạm quyền riêng tư từ AI y tế hiện cao hơn đánh giá ban đầu

AI được ứng dụng trong y tế nhằm hỗ trợ chẩn đoán, ví dụ như xác định hình ảnh X-quang có dấu hiệu viêm phổi hay không, hứa hẹn cải thiện kết quả điều trị cho bệnh nhân. Tuy nhiên, một nghiên cứu mới do Moritz Knolle, nghiên cứu sinh tại Đại học Kỹ thuật Munich (TUM), cùng giáo sư Daniel Rückert và các cộng sự tại Imperial College London, cũng như Georg Kaissis từ Viện Hasso Plattner (HPI) công bố trên tạp chí Nature, đã phát hiện rủi ro bảo mật dữ liệu cá nhân trong các mô hình AI này lớn hơn nhiều so với các nghiên cứu trước đây.

Các nghiên cứu trước đây chỉ đánh giá rủi ro trung bình trên tổng thể dữ liệu đào tạo, qua đó cho thấy tấn công kiểm tra dữ liệu thành viên (Membership Inference Attacks - MIA) chỉ cho kết quả tương đương với xác suất ngẫu nhiên. Trong khi đó, nhóm nghiên cứu mới tập trung phân tích rủi ro đối với từng cá nhân bệnh nhân trong bộ dữ liệu y tế thực tế, gồm các bộ dữ liệu lớn như 21.799 điện tâm đồ và 377.110 ảnh X-quang ngực.

MIA hoạt động bằng cách so sánh độ tin cậy dự đoán của mô hình AI đối với một điểm dữ liệu cụ thể với một mô hình tương tự chưa thấy điểm dữ liệu đó. Khi mô hình đào tạo trên dữ liệu chứa điểm đó, mô hình có xu hướng dự đoán chính xác và tự tin hơn. Nhờ đó, kẻ tấn công có thể xác định liệu dữ liệu của một người có tham gia vào tập huấn luyện hay không.

Kết quả nghiên cứu cho thấy rủi ro bảo mật tồn tại trên mức trung bình, có nghĩa là một số cá nhân chịu sự rủi ro lớn hơn so với phần còn lại. Đáng chú ý, nhóm bệnh nhân thuộc các nhóm thiểu số, vốn bị đại diện yếu trong tập huấn luyện, lại nằm trong nhóm 1% chịu rủi ro riêng tư cao nhất.