研究人员称OpenAI Whisper转录工具存在编造问题_科技动态

创始人

2024-10-27 15:20:55

0次

鞭牛士报道，10月27日消息，据美联社报道，软件工程师、开发人员和学术研究人员对 OpenAI 的 Whisper 转录表示严重担忧。

尽管关于生成式人工智能产生幻觉（基本上就是编造东西）的倾向的讨论一直不绝于口，但令人惊讶的是，这竟然是转录中的一个问题，因为你会期望转录结果与被转录的音频紧密相关。

相反，研究人员告诉美联社，Whisper 把从种族评论到想象中的医疗治疗等所有内容都引入了记录中。当 Whisper 在医院和其他医疗环境中被采用时，这可能会带来特别严重的后果。

密歇根大学的一名研究公开会议的研究人员发现，每 10 份音频转录中就有 8 份出现幻觉。一名机器学习工程师研究了超过 100 个小时的 Whisper 转录，发现其中一半以上出现幻觉。

一名开发人员报告说，他用 Whisper 创建的 26,000 份转录中几乎都发现了幻觉。

OpenAI 发言人表示，公司正在不断努力提高模型的准确性，包括减少幻觉，并指出其使用政策禁止在某些高风险决策环境中使用 Whisper。

他们说：我们感谢研究人员分享他们的研究成果。

vivo钱包遭用户投诉贷款利率... 文：WEMONEY研究室随着移动互联网时代到来，智能手机已经成为了生活的必需品。目前，很多手机如...

小米14T Pro海外定档9月... 【ITBEAR】9月23日消息，小米今日在X平台上宣布，旗下新款手机小米14T Pro定于9月26日...

邓宏魁、张涛、李亚栋、孙斌勇获... 出品 | 搜狐科技作者 | 周锦童 8月16日上午10时，2024未来科学大奖新闻发布会在北京、香...

华为发布ICT人才实训解决方案... [中国，上海，2024年9月19日] 华为全联接大会2024期间，在以“助力ICT人才培养，共赢数智...

iPhone 16系列手机网速... 在智能手机的世界里，网速往往是衡量一部手机性能的重要指标之一。尤其是随着5G时代的到来，用户对于高...

微波传输赋能空管保障联合创新实... 鲁网9月30日讯近日，济南联通与民航山东空管分局共同开展双路由光缆中断后的微波系统保护演练，系统...

湖南各地广泛开展“传承红色基因... 为庆祝中华人民共和国成立75周年，湖南各地积极组织开展“传承红色基因·向国旗敬礼”主题实践活动，引导...

我国成功发射首颗可重复使用返回... 记者从国家航天局获悉，9月27日18时30分，我国在酒泉卫星发射中心采用长征二号丁运载火箭，成功发射...

原创首... 9月20日iPhone 16系列正式开售，当天预订的用户已经可以拿到新机。现在很多第一批购买的朋友都...

抖音老阳分享的Temu项目是真... 近年来，随着社交媒体的发展，抖音成为了许多人获取信息和进行消费的主要平台。其中，抖音博主老阳分享的T...