發(fā)表在24日《自然》雜志的一篇研究論文發(fā)現(xiàn)，如果個人數(shù)據(jù)被用于訓(xùn)練醫(yī)療AI模型，那他可能面臨在網(wǎng)絡(luò)攻擊中被識別的風(fēng)險，且代表性不足群體個人信息泄露風(fēng)險更高。研究認為，當(dāng)前的風(fēng)險評估并未將這些群體納入考量，因此呼吁采取進一步措施以緩解并實施嚴格的訪問控制。

　　醫(yī)療AI模型有望改善全球健康狀況，特別是在缺乏專業(yè)人才的地區(qū)。然而，用于訓(xùn)練這些模型的敏感數(shù)據(jù)可能面臨隱私攻擊。攻擊者利用成員推理攻擊（MIA）來確定個人的數(shù)據(jù)是否被用于訓(xùn)練模型。通過此類攻擊，可以推斷出患者的醫(yī)療數(shù)據(jù)和私人信息。此前關(guān)于數(shù)據(jù)風(fēng)險的研究主要基于整個數(shù)據(jù)集，并未考慮個體的風(fēng)險。

　　德國慕尼黑工業(yè)大學(xué)研究團隊開展了一項隱私審計，重點關(guān)注個人隱私風(fēng)險，發(fā)現(xiàn)醫(yī)療AI模型可能對個人數(shù)據(jù)貢獻者構(gòu)成隱私風(fēng)險。研究人員利用7個由真實臨床數(shù)據(jù)（包括醫(yī)學(xué)影像、心電圖和電子健康記錄）組成的大型數(shù)據(jù)集，確定了數(shù)據(jù)貢獻患者中最為脆弱的群體。

　　研究發(fā)現(xiàn)，在個人層面，MIA針對的目標(biāo)幾乎毫無差錯地被成功識別出來。在群體層面，在數(shù)據(jù)集中被識別為代表性不足的群體包括罕見病患者、少數(shù)族裔或社會經(jīng)濟地位較低的人群等。隨著被AI模型編碼的獨特數(shù)據(jù)增多，研究發(fā)現(xiàn)這些群體和個人更加脆弱，且面臨不成比例的隱私攻擊風(fēng)險。研究同時發(fā)現(xiàn)，MIA攻擊的成功率，會隨著模型容量和規(guī)模的增加而上升。

　　研究人員表示，諸如MIA之類的隱私攻擊，在個體層面的精準(zhǔn)打擊效果，比目前普遍認為的更為顯著。他們總結(jié)稱，隱私風(fēng)險評估必須將個體風(fēng)險納入考量，并對易受攻擊的模型提供進一步保護。