Rủi ro bảo mật trong AI y tế

AI được ứng dụng trong y tế nhằm hỗ trợ chẩn đoán, ví dụ như xác định hình ảnh X-quang có dấu hiệu viêm phổi hay không, hứa hẹn cải thiện kết quả điều trị cho bệnh nhân. Tuy nhiên, một nghiên cứu mới do Moritz Knolle, nghiên cứu sinh tại Đại học Kỹ thuật Munich (TUM), cùng giáo sư Daniel Rückert và các cộng sự tại Imperial College London, cũng như Georg Kaissis từ Viện Hasso Plattner (HPI) công bố trên tạp chí Nature, đã phát hiện rủi ro bảo mật dữ liệu cá nhân trong các mô hình AI này lớn hơn nhiều so với các nghiên cứu trước đây.

Các nghiên cứu trước đây chỉ đánh giá rủi ro trung bình trên tổng thể dữ liệu đào tạo, qua đó cho thấy tấn công kiểm tra dữ liệu thành viên (Membership Inference Attacks - MIA) chỉ cho kết quả tương đương với xác suất ngẫu nhiên. Trong khi đó, nhóm nghiên cứu mới tập trung phân tích rủi ro đối với từng cá nhân bệnh nhân trong bộ dữ liệu y tế thực tế, gồm các bộ dữ liệu lớn như 21.799 điện tâm đồ và 377.110 ảnh X-quang ngực.

Cơ chế tấn công và phát hiện mới

MIA hoạt động bằng cách so sánh độ tin cậy dự đoán của mô hình AI đối với một điểm dữ liệu cụ thể với một mô hình tương tự chưa thấy điểm dữ liệu đó. Khi mô hình đào tạo trên dữ liệu chứa điểm đó, mô hình có xu hướng dự đoán chính xác và tự tin hơn.