在这个“数据即石油”的时代，我们对于人工智能（AI）有着一种近乎信仰的共识：投喂的数据越多，AI就越聪明、越精准。特别是在医疗领域，我们期待AI能通过学习海量的病历，成为比人类医生更博学的专家。

但是，如果AI“吃”进去的数据，本身就是人工合成的“假货”呢？

2025年12月，斯坦福大学医学院与美国国立卫生研究院（NIH）的研究团队在顶刊《柳叶刀·数字健康》（The Lancet Digital Health）上发表了一篇震耳欲聋的观点文章。他们并没有为AI的进步高唱赞歌，而是泼了一盆冷水：为了解决隐私和数据短缺问题，医疗界正在大量使用“合成数据”（Synthetic Data）来训练AI。这种做法正在制造一种危险的**“合成信任”（Synthetic Trust）**——我们误以为模型很强大，实际上它可能只是在重复偏见，甚至出现“近亲繁殖”导致的智力退化。

这不仅仅是技术人员的烦恼，更关系到未来某一天，坐在诊室对面的AI医生，是否真的懂它在给你开什么药。

1. 数量的幻觉：克隆数据正在放大医疗偏见

我们要解决的第一个认知冲突是：“假数据”并不全是坏词，但被严重滥用了。

在医疗研发中，真实的患者数据（如电子病历、基因信息）因为涉及隐私（HIPAA、GDPR等法规限制）和采集难度，往往是“千金难求”的。为了填饱AI大模型那无底洞般的胃口，研究人员想出了一条捷径：利用生成式AI（比如GANs、扩散模型）创造出模仿真实数据统计特征的“合成数据”。

这听起来很完美：既保护了隐私，又有了无穷无尽的数据源。然而，斯坦福的研究者们指出，这种“走捷径”的心态建立在一个错误的假设之上——即认为“更多的数据 = 更好的模型”。

“多利羊”效应：复制即放大

文章中使用了一个非常形象的类比：克隆羊“多利”。多利羊不仅继承了母体的基因，也继承了母体DNA的损耗和缺陷。合成数据也是如此，它不仅仅是模拟真实世界，更是真实世界偏见的放大器。

想象一下，如果我们用一个包含极少数罕见药物相互作用的真实数据集来生成合成数据。原本在真实世界中只是偶尔被忽略的“小概率事件”，在合成数据中可能彻底消失；而原本存在的数据采集偏差（例如某些族裔的代表性不足），则可能被生成模型当作“正常特征”加以固化甚至夸大。

这就好比你用一张模糊的照片去复印，复印出来的复印件只会更模糊，原本还能依稀辨认的细节（罕见病特征、边缘群体的特殊体征）将在一次次合成中被彻底抹除。如果你指望用这样的数据训练出来的AI去发现罕见病或服务少数族裔，无异于缘木求鱼。

2. 危险的“合成信任”：AI“近亲繁殖”会导致模型智商退化

研究者们创造了一个新词——“合成信任”（Synthetic Trust），用来描述当前医疗AI领域一种毫无根据的自信。这种自信源于一种错觉：只要模型的训练数据量足够大，哪怕是合成的，模型也是可靠的。

10个人变1000个的把戏

文中举了一个令人细思极恐的例子：假设研究者只有10个美国原住民的病历样本。通过合成数据技术，他们可以轻松“变”出1000个合成的原住民病历。表面上看，数据量翻了100倍，模型训练似乎更充分了。但实际上，这1000个数据只是那10个人的无数次变体，它们并没有增加任何新的多样性，反而让模型误以为这10个人的特征就代表了整个族群。

当医生使用这个模型时，会被高达99%的统计准确率所迷惑，产生“合成信任”。但一旦遇到真实世界中那10个人以外的原住民患者，AI可能会给出完全错误的诊断建议，造成严重的健康不平等。

模型崩溃：AI吃AI的恶性循环

更糟糕的是，随着互联网上充斥着越来越多的AI生成内容，未来的模型可能会不可避免地使用“上一代AI生成的数据”进行训练。这在学术上被称为**“模型自噬”（Model Autophagy）或“模型崩溃”**。

就像生物界禁止近亲繁殖一样，AI如果长期缺乏新鲜的真实数据（Real-world Data）注入，只在合成数据的回声室里打转，它对现实世界的理解就会逐渐扭曲。模型会丢失对“长尾分布”（即那些不常见但至关重要的真实案例）的捕捉能力，最终变成一个只会说漂亮话但毫无临床价值的“人工智障”。

3. 必须建立“安检机制”：区分真伪才能拯救AI医疗

虽然前景听起来有些灰暗，但这并不意味着我们要彻底抛弃合成数据。实际上，在保护隐私和跨机构协作方面，它依然有不可替代的价值。关键在于，我们需要从“追求数量”转向“验证质量”。

斯坦福团队在文章中提出了一套具体的“安检”方案，呼吁在AI全生命周期中引入严格的保障措施：

开发阶段：亮出“成分表”

就像食品包装上必须标注成分一样，使用合成数据训练的AI模型也必须公开其数据的“成分”：

混合比例：用了多少真数据，多少假数据？（例如：10例真实数据 vs 1000例合成数据）

覆盖盲区：明确告知模型在哪些领域是“瞎”的（例如：缺乏晚期肾病样本）。

方差界限：说明合成数据相比真实数据的误差范围（例如：实验室数值有±5%的噪声）。

部署阶段：设置“熔断机制”

在AI真正上岗辅助医生时，必须有一套动态的拒绝协议（Dynamic Rejection Protocols）。

来源警示：如果AI做出的某个诊断，其依据主要（超过50%）来自于合成特征而非真实特征，系统应自动发出警示。

真实性衰减监测：一旦发现模型在真实病人身上的表现开始低于在合成数据上的测试基线，就必须立刻停用并重新校准。

结语：不要让“方便”成为“安全”的掘墓人

合成数据的确为医疗AI的发展提供了一条便捷的高速公路，让我们绕过了数据隐私和采集困难的崇山峻岭。但正如这篇《柳叶刀·数字健康》的文章所警示的，速度不代表方向正确。

医疗决策容不得半点虚假。如果我们任由“合成信任”泛滥，最终买单的将是每一个具体的患者。未来的医疗AI竞争，不应是看谁的数据量更大，而是看谁的数据更“真”。在我们将健康托付给算法之前，请先确保它眼中的世界，和我们身处的真实世界是同一个。

标题：Synthetic data, synthetic trust: navigating data challenges in the digital revolution.

论文链接：https://doi.org/10.1016/j.landig.2025.100924

论文一键翻译：点击获取中文版 ➡️

发表时间：2025-11

期刊/会议：The Lancet. Digital health

作者：Arman Koul, Deborah Duran, Tina Hernandez-Boussard

本文链接：https://suppr.wilddata.cn/news/lancet-warning-ai-fake-data-deceive-doctors

本文由超能文献（https://suppr.wilddata.cn/）团队编辑。