千万别照单全收！原来AI也会产生幻觉_热点

千万别照单全收！原来AI也会产生幻觉

创始人

2025-03-05 16:07:15

转自：荔枝新闻

【千万别照单全收！#原来AI也会产生幻觉#】很多人现在都习惯遇事不决先问AI，但也有不少人发现，AI给出的答案也会出现错误。对此，人工智能专家表示，大模型内容输出的偏差错误被称为“幻觉”，一般是指人工智能系统里，产生的一些看上去合理但实际上与客观事实不相符的错误内容。原因首先是，大模型可能“想错了”。你可以将大模型输出答案简单理解为一个“猜”的过程，它是在通过概率不断预测下一个词，而非基于事实和严格的逻辑推理。因此，可能生成看似正确流畅、但实际并不存在的内容。还有一种情况，是由于此前训练的数据不准确所导致。再有，就是使用时进入了互联网搜索，网页可能存在错误或者虚假内容。目前，大模型还并不擅长对搜索到的信息进行甄别，也就导致它给出的答案可能有误。虽然无法百分之百避免，但研究人员一直也在努力改进。#有人已经在用ai编造文献进行科普了# (央视网) @陕视新闻

上一篇：王江平：中国制造业拥抱人工智能行业模型将迎爆发

下一篇：投资者提问：对于湖北省竹山、竹溪两地发现大型铌矿，贵公司或控股集团公司是否...

千万别照单全收！原来AI也会产生幻觉

相关内容

热门资讯