现在AI越来越聪明了,它学习了很多人类的资料,也成了很多人便捷的工具,但它的话都是准确的吗?
真的不一定!
据了解,AI 语言模型本质是基于生成式人工智能的预测工具,通过统计语言模式生成回答,其输出完全依赖用户提供的提示词和上下文,既无自主思考能力,也无价值判断。怀有恶意的用户还可能通过诱导性提问,使 AI 生成符合语境的虚构内容;或选择性截取片段,甚至刻意重复提问迫使 AI“改口”。
此外,AI 训练数据本身包含现实世界的偏见与谣言,且无法验证信息真伪,存在“编造事实”风险。因此,在面对 AI 生成的信息时,保持批判思维、追溯对话全貌、交叉验证事实,才是应对 AI 内容可信度问题的关键。
来源:科普中国、中国科普网等