可重复率越高,研究的结论就一定越可靠吗?
创始人
2024-10-16 16:40:50
0

在社会-行为科学研究中,其他研究者是否可以重复实验并得到相同的结果,往往是衡量一项研究结论是否可靠和准确的重要指标。然而近日,一项备受瞩目的可重复性研究被期刊撤稿,凸显了可重复性研究面临的挑战。

论文被撤稿。图片来自《自然》杂志。

编译丨李永博 ‍‍‍‍‍

这项被撤稿的心理学研究原先发表于去年11月的《自然-人类行为》(Nature Human Behaviour)杂志,这篇论文旨在研究如何改进心理学研究的可靠性,论文作者中包括了该领域的一些知名学者。

这篇论文描述了一项由4个团队协作完成的复杂而庞大的研究工作。四个研究团队分别在社会-行为科学领域进行了试点研究。例如,其中一项研究探讨了时间压力是否会影响决策。如果试点研究发现了某种效应,团队则会尝试在至少1500人的样本中确认该结果。所有四个团队都试图重复已选中的实验,看看能否得到相同的结果。每个团队尝试重复其自身的四个实验,以及另外三个团队中的四个实验。

在64次重复性实验尝试中,86%是成功的,也就是说,它们产生了预期的结果,并且这些结果具有统计学意义。这是此类研究记录中最高的可重复率之一。相比之下,其他社会-行为科学领域研究报告的平均可重复率为50%。论文作者将其归功于“提高严谨性的做法”,例如大样本量、预注册和方法透明度。作者写道,采用这些做法可以使研究更加可靠。

《自然-人类行为》(Nature Human Behaviour)杂志9月刊封面。

然而,期刊编辑在今年9月23日撤回了这篇论文,撤稿声明中表示,他们“对研究结果和结论的可靠性不再有信心”。撤稿评论写道,“可重复性不是项目最初感兴趣的结果,并且与可重复性相关的分析没有像声称的那样进行预注册”。

“预注册”(Pre-registration)通常指在研究开始前,论文作者在专门的期刊平台上提前登记研究设计、假设、分析计划等信息。“预注册”在心理学研究中被广泛应用,这种做法可以提高研究的透明度,减少研究结果的偏倚,并有助于其他研究者更容易重复实验,验证研究结果。

在撤稿当天,该论文的六位作者发表了他们的看法。在声明中,他们承认研究中的一些分析并未进行预注册,但他们认为撤稿声明中的其他内容“不准确”,例如期刊声称作者在进行分析时已知晓数据。加州大学圣塔芭芭拉分校的心理学家乔纳森·斯库勒(Jonathan Schooler)告诉《自然》杂志,该团队正在为重新提交做一份新版手稿。

这一撤稿事件暴露了可重复性研究目前面临的挑战。“这表明做好科学研究比大多数人想象的要难得多,”新西兰奥克兰大学的视觉神经科学家萨姆·施瓦茨科普夫(Sam Schwarzkopf)说。“很多时候,预注册让人们意识到,当面对冷冰冰的数据收集现实时,他们精心设计的计划并不会如愿实现。”

多伦多大学的心理学家约埃尔·因巴(暂译,Yoel Inbar)则表示,这一事件揭示了预注册的不足之处:“我见过很多预注册方案,它们要么内容含糊,要么没有严格遵守,或者最终的论文混合了预注册和非预注册的分析结果”。

约埃尔·因巴认为比“预注册”更好的方案是“注册报告”:在这种模式中,研究者在收集数据之前,需要向期刊提交他们的研究方案,包括研究的理由和方法,进行同行评审。编辑根据研究问题的重要性和方法的严谨性决定是否接受该研究,并承诺如果研究按描述进行,将发表其结果。

另一些学者认为,期刊也需要承担一部分责任,同行评审人员并不总是检查预注册的流程。期刊发言人表示,他们正在调查研究“如何改进社会和行为科学中预注册的透明度、标准化和报告要求,这将加强对预注册合规性的监控工作”。

参考资料:

(1)‘Doing good science is hard’: retraction of high-profile reproducibility study prompts soul-searching

本文为编译内容。编译:李永博;编辑:西西;校对:柳宝庆。欢迎转发至朋友圈。文末含 《写童书的人》广告

相关内容

热门资讯

vivo钱包遭用户投诉贷款利率... 文:WEMONEY研究室 随着移动互联网时代到来,智能手机已经成为了生活的必需品。目前,很多手机如...
小米14T Pro海外定档9月... 【ITBEAR】9月23日消息,小米今日在X平台上宣布,旗下新款手机小米14T Pro定于9月26日...
邓宏魁、张涛、李亚栋、孙斌勇获... 出品 | 搜狐科技 作者 | 周锦童 8月16日上午10时,2024未来科学大奖新闻发布会在北京、香...
华为发布ICT人才实训解决方案... [中国,上海,2024年9月19日] 华为全联接大会2024期间,在以“助力ICT人才培养,共赢数智...
iPhone 16系列手机网速... 在智能手机的世界里,网速往往是衡量一部手机性能的重要指标之一。 尤其是随着5G时代的到来,用户对于高...
微波传输赋能空管保障联合创新实...   鲁网9月30日讯近日,济南联通与民航山东空管分局共同开展双路由光缆中断后的微波系统保护演练,系统...
湖南各地广泛开展“传承红色基因... 为庆祝中华人民共和国成立75周年,湖南各地积极组织开展“传承红色基因·向国旗敬礼”主题实践活动,引导...
我国成功发射首颗可重复使用返回... 记者从国家航天局获悉,9月27日18时30分,我国在酒泉卫星发射中心采用长征二号丁运载火箭,成功发射...
原创 首... 9月20日iPhone 16系列正式开售,当天预订的用户已经可以拿到新机。现在很多第一批购买的朋友都...
抖音老阳分享的Temu项目是真... 近年来,随着社交媒体的发展,抖音成为了许多人获取信息和进行消费的主要平台。其中,抖音博主老阳分享的T...