同行评审或对提升预印本论文质量作用有限
像bioRxiv上的预印本已经成为科学家分享他们的成果的捷径,但是它们还没有经过同行评审。
每天,科学家在公共服务器上发布许多预印本,如bioRxiv,这是没有同行评议的研究报告。相比之下,预印本可以让科学家更快地获得最新研究成果,而传统期刊通常需要几个月的时间来完成审查。
然而,评论家指出,预印可以提高速度,但它可能会失去其可靠性和可信度,因为同行审查可以指出错误和缺陷。这是一个令人担忧的问题,尤其是医学治疗的发现,非科学家可能会误解,并可能危及公共健康。新的冠状病毒大流行也加剧了这些担忧。
但是最近,巴西里约热内卢联邦大学在bioRxiv上发表的一项预印研究得出结论,同行评议似乎并没有显著提高预印本的质量。
这项研究将2016年在bioRxiv上发表的56份预印本与后来在期刊上发表的同行评议版本进行了比较,其中许多是遗传学和神经科学研究。研究人员特别检查了最终论文是否包含比预印报告更多的关键研究细节,如所用试剂的类型和统计方法。
研究人员发现,预印报告质量的平均分数为68%,而同行评议的出版版本的平均分数为72%。尽管增幅不大,但仍具有统计意义。根据期刊影响因素,选定的期刊没有显示更大的增长。平均而言,他们发现同行评议者在25个研究类别的每篇文章中只发现了一个缺陷。
研究小组表示,他们的方法提供了一个客观和一致的同行评议结果的衡量标准。相比之下,对文章其他特征的评价通常涉及主观判断,很难比较。然而,研究小组承认,他们对透明度的衡量并不表明审稿人是否在其他重要方面改进了文章,比如方法是否合理,结论是否有证据支持。
斯坦福大学的史蒂文·古德曼没有参与这项研究,他研究了同行评议。他说:“在如何衡量论文质量以及如何最好地评估同行评议的方法上,我们没有共识。”他补充说,其他证据表明同行评议可以带来好处,包括减少作者结论中的“混乱”和更好的报道限制。
然而,古德曼仍然称这项研究为“有意义的贡献”,因为未来的研究可以建立在它的方法论基础上,这样的研究很少。
该论文的主要作者、里约热内卢联邦大学的博士生克拉丽莎·卡内罗(Clarissa Carneiro)表示:“这项研究的发现表明,审查者可能会在报告方法和其他细节方面发现更多缺陷。”由此增加的透明度可以帮助其他学者重现这一结果。
Carneiro表示,预印报告的质量与同行评议文章的质量基本相同,这一发现表明,科学家在申请工作和资金时越来越多地使用预印报告。"预印本可以被认为是研究项目的有效科学成果."
此外,古德曼补充说,这项研究中预先打印的样本数量可能太少,不足以完全代表bioRxiv上发表的各种科学分支的多样性。
然而,2019年发表在《国际数字图书馆杂志》上的另一项研究为这项研究的发现提供了一些支持。它使用一种自动化的方法将大量预印本(bioRxiv的近2500项研究和arXiv的12000多项研究)与相关期刊上发表的后续版本进行比较。研究小组使用统计技术来衡量预印版本和官方出版版本之间的差异,发现差异并不显著。
这项研究的主要作者、美国洛斯阿拉莫斯国家实验室的马丁·克莱因说,这并不意味着同行评审毫无价值。他说,这确实表明需要对科学传播的预印文章和期刊文章的益处进行更多的研究。