可重复率越高,研究的结论就一定越可靠吗?
创始人
2024-10-16 16:40:50
0

在社会-行为科学研究中,其他研究者是否可以重复实验并得到相同的结果,往往是衡量一项研究结论是否可靠和准确的重要指标。然而近日,一项备受瞩目的可重复性研究被期刊撤稿,凸显了可重复性研究面临的挑战。

论文被撤稿。图片来自《自然》杂志。

编译丨李永博 ‍‍‍‍‍

这项被撤稿的心理学研究原先发表于去年11月的《自然-人类行为》(Nature Human Behaviour)杂志,这篇论文旨在研究如何改进心理学研究的可靠性,论文作者中包括了该领域的一些知名学者。

这篇论文描述了一项由4个团队协作完成的复杂而庞大的研究工作。四个研究团队分别在社会-行为科学领域进行了试点研究。例如,其中一项研究探讨了时间压力是否会影响决策。如果试点研究发现了某种效应,团队则会尝试在至少1500人的样本中确认该结果。所有四个团队都试图重复已选中的实验,看看能否得到相同的结果。每个团队尝试重复其自身的四个实验,以及另外三个团队中的四个实验。

在64次重复性实验尝试中,86%是成功的,也就是说,它们产生了预期的结果,并且这些结果具有统计学意义。这是此类研究记录中最高的可重复率之一。相比之下,其他社会-行为科学领域研究报告的平均可重复率为50%。论文作者将其归功于“提高严谨性的做法”,例如大样本量、预注册和方法透明度。作者写道,采用这些做法可以使研究更加可靠。

《自然-人类行为》(Nature Human Behaviour)杂志9月刊封面。

然而,期刊编辑在今年9月23日撤回了这篇论文,撤稿声明中表示,他们“对研究结果和结论的可靠性不再有信心”。撤稿评论写道,“可重复性不是项目最初感兴趣的结果,并且与可重复性相关的分析没有像声称的那样进行预注册”。

“预注册”(Pre-registration)通常指在研究开始前,论文作者在专门的期刊平台上提前登记研究设计、假设、分析计划等信息。“预注册”在心理学研究中被广泛应用,这种做法可以提高研究的透明度,减少研究结果的偏倚,并有助于其他研究者更容易重复实验,验证研究结果。

在撤稿当天,该论文的六位作者发表了他们的看法。在声明中,他们承认研究中的一些分析并未进行预注册,但他们认为撤稿声明中的其他内容“不准确”,例如期刊声称作者在进行分析时已知晓数据。加州大学圣塔芭芭拉分校的心理学家乔纳森·斯库勒(Jonathan Schooler)告诉《自然》杂志,该团队正在为重新提交做一份新版手稿。

这一撤稿事件暴露了可重复性研究目前面临的挑战。“这表明做好科学研究比大多数人想象的要难得多,”新西兰奥克兰大学的视觉神经科学家萨姆·施瓦茨科普夫(Sam Schwarzkopf)说。“很多时候,预注册让人们意识到,当面对冷冰冰的数据收集现实时,他们精心设计的计划并不会如愿实现。”

多伦多大学的心理学家约埃尔·因巴(暂译,Yoel Inbar)则表示,这一事件揭示了预注册的不足之处:“我见过很多预注册方案,它们要么内容含糊,要么没有严格遵守,或者最终的论文混合了预注册和非预注册的分析结果”。

约埃尔·因巴认为比“预注册”更好的方案是“注册报告”:在这种模式中,研究者在收集数据之前,需要向期刊提交他们的研究方案,包括研究的理由和方法,进行同行评审。编辑根据研究问题的重要性和方法的严谨性决定是否接受该研究,并承诺如果研究按描述进行,将发表其结果。

另一些学者认为,期刊也需要承担一部分责任,同行评审人员并不总是检查预注册的流程。期刊发言人表示,他们正在调查研究“如何改进社会和行为科学中预注册的透明度、标准化和报告要求,这将加强对预注册合规性的监控工作”。

参考资料:

(1)‘Doing good science is hard’: retraction of high-profile reproducibility study prompts soul-searching

本文为编译内容。编译:李永博;编辑:西西;校对:柳宝庆。欢迎转发至朋友圈。文末含 《写童书的人》广告

相关内容

热门资讯

2025年值得入手的2款智能手... 在科技飞速发展的今天,智能手表已成为我们生活中不可或缺的伙伴。无论是健康监测、信息提醒,还是时尚搭配...
原创 苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别?该选择哪一款更好?各自...
第五轮学科评估对比:西安交大突... 在之前的文章中,我们已经提及西安交通大学第五轮学科评估的表现可圈可点,新晋的3个A+学科:机械工程、...
原创 2... 从去年华为用上了麒麟芯片开始,华为的市场份额就蹭蹭的往上涨,当时抢购的人特别多,一时间还买不到现货,...
steam官网无法访问?这个办... 对于广大游戏爱好者而言,Steam平台无疑是获取最新游戏资讯、购买游戏、与全球玩家互动的重要阵地。然...
解决FaceTime无法使用的... FaceTime是苹果公司推出的一款视频通话应用,广泛应用于iPhone、iPad和Mac等设备上。...
vivo手机5g开关在哪里打开 vivo手机5G开关的打开方式可能因手机型号、系统版本及运营商网络支持情况的不同而有所差异。但总体来...
2024年OPPO手机全攻略:... 手机已不仅仅是通讯工具,它更是我们记录生活、享受娱乐、提升工作效率的重要伙伴。随着科技的飞速发展,O...
原创 最... 近日,有关华为nova 13系列手机的消息开始多了起来,之前透露的消息暴露,华为nova 13 Pr...
2024信号“最可靠”的四款手... 大家好!今天我要和大家聊聊2024年信号“最可靠”的四款手机,它们分别是华为Pura 70 Pro+...