科学家最近才意识到，AI可能导致医学研究走错路

根据英国《金融时报》的一份报告，一群顶尖科学家和医学统计学家上周五警告称，在一些生物医学领域使用人工智能技术将导致一些不准确的结论。

“使用机器学习技术分析大数据得出的许多研究结论都不能赢得我的信任。”莱斯大学贝勒医学院的副教授吉纳维拉·艾伦在美国科学进步协会的年会上发出警告。

机器学习已经被用来研究科学和医学数据之间的关系以及一些现象，例如基因和疾病之间的相关性。在精密医学领域，研究人员将寻找具有相似DNA的患者，以便治疗计划能够针对特定的致病基因。

"许多技术是用于预测的."艾伦说，“但我从未回复‘我不知道’或‘我什么也没找到’的结论，因为他们在设计过程中没有考虑到这一点。”

她不愿意指出具体的案例，但是说机器学习在癌症数据上的研究结论是一个很好的例子。

"有许多情况是不能重复的。"艾伦说，“一项研究中发现的集群与另一项研究中发现的集群非常不同。为什么会这样？因为今天的大多数机器学习技术会说，‘我发现了一个群体’但有时，如果换一种方式更有帮助的话，可以这样说:“我认为他们中的一些人确实分成了小组，但我不确定其他人的情况。”"

一旦机器学习发现了患者基因和疾病特征之间的特定联系，人类研究人员可能会为相应的发现提供合理的科学解释。然而，这并不意味着这些发现是正确的。

艾伦说:“你总能找到一些基因分组的原因。”

计算机科学家最近才开始意识到这个问题，这可能会导致医学研究人员走上错误的道路，浪费资源来确认无法重复的结果。

艾伦和她的同事正在努力改进统计技术和机器学习技术，以便人工智能能够批评自己的数据分析，并指出一些发现是真实的而不是直接相关的可能性。

“一个想法是专门破坏数据，看看结果是否会保持不变。”她说。