核心观点
本次研究来自《自然》期刊,其核心结论为:少数群体的医疗数据在用于训练医疗AI模型后,在网络攻击场景下面临的身份识别、数据泄露风险显著高于其他群体,当前的通用风险评估体系未覆盖这类群体的安全隐患。
分析框架
研究团队针对医疗AI训练数据集的网络安全风险展开分析,重点对比了少数群体与其他群体的数据被识别、泄露的概率差异,同时评估了现有风险评估机制的覆盖范围。
值得关注的问题
- 现有医疗AI训练数据的风险评估未将少数群体纳入评估范畴,可能导致该群体的数据安全隐患被忽视
- 少数群体的医疗数据被精准识别后,可能引发针对性的隐私泄露风险
- 如何针对这类群体优化医疗AI数据的安全管控机制仍待明确
结论
该研究指出,当前医疗AI数据的网络安全防护存在针对少数群体的盲区,需要通过严格的访问控制、补充针对性的风险评估措施,来降低少数群体医疗数据的泄露风险,不过具体的落地方案仍需进一步探索。