参考消息网10月28日报道英国《金融时报》网站10月26日发表题为《“别相信你的眼睛”:人工智能导致费用虚报激增》的文章,记者克里斯蒂娜·克里德尔。文章摘要如下:
企业越来越多地发现,员工利用人工智能进行一种存在已久的骗局:伪造费用收据。
多个费用管理软件平台表示,最近几个月,开放人工智能研究中心(OpenAI)和谷歌等顶级人工智能集团推出新的图像生成模型,导致企业内部收到的人工智能生成收据激增。
美国软件提供商AppZen公司表示,在9月份提交的伪造文件中,人工智能伪造收据约占14%,而去年为零。美国金融科技集团兰普公司表示,其新软件在90天内发现面额超过100万美元的伪造发票。
瑞典费用管理平台梅迪乌斯公司调查了美国和英国的金融专业人士,其中约30%表示,在OpenAI去年推出GPT-4o后,他们发现伪造收据的情况有所增加。
德国思爱普肯克公司是全球领先的费用管理平台,每月利用人工智能技术进行逾8000万次合规检查。该公司高级副总裁兼产品营销主管克里斯·朱诺表示:“这些收据已经变得如此逼真,以至于我们告诉客户,‘别相信你的眼睛’。”
多个平台认为,在OpenAI今年3月推出升级版GPT-4o图像生成模型后,利用人工智能生成的收据数量大幅增加。
OpenAI对本报记者表示,该公司会在出现违规行为时采取措施,并且会用元数据对ChatGPT生成的图像进行标记。
过去,伪造文件需要具备照片编辑能力,或在线购买此类服务。在免费易用的图像生成软件出现后,企业员工只需向聊天机器人发送简单的文本指令,就能在几秒钟内快速伪造收据。
此类更加逼真的伪造收据越来越多,企业需要利用人工智能技术来帮助检测,因为大多数收据已经逼真到审核人员无法区分的程度。
德国思爱普公司今年7月的研究发现,近70%的首席财务官认为,公司员工正在利用人工智能试图虚报差旅费用或伪造收据,约10%的首席财务官补充称,他们确信这种情况已经在自己的公司发生。(编译/胡广和)