国安部门提示警惕AI数据污染_热点

创始人

2025-08-17 07:26:52

0次

【#国安部门提示警惕AI数据污染#】#AI称账户注销原因是交通事故# 随着AI人工智能技术和应用的蓬勃发展，各类AI工具已经成为我们日常工作和生活的助手，不知不觉间，我们的生活开始与人工智能密切联系。

不过近年来，不少网民发现，部分人工智能的回答开始有些不靠谱。

今年上半年，宁波发生了两件事，被人工智能荒唐地联系在一起。

第一件事是，2月6日宁波警方注销了“宁波交警”抖音号。第二件事是，三个月后的5月2日，在浙江宁波余姚境内的省道嘉余线上，一辆未悬挂车牌的轿车在违法超车过程中撞倒一辆摩托车。小车驾驶人并未第一时间检查伤者受伤情况，而是从后备厢里拿出车牌进行安装。

当网民询问AI软件2月6日宁波交警抖音号为何注销时，人工智能给出的答案竟然是“主要与5月2日的这起交通事故引发广泛关注有关”的结论。2月份发生的账户注销的原因竟然是3个月后发生的一起交通事故。人工智能的这一回答引起了网民广泛关注，宁波交警随后进行了紧急辟谣。

近日，国家安全部门发布提示，通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，将干扰模型在训练阶段的参数调整，降低其准确性，甚至诱发有害输出。（央视新闻客户端视频来源：央视财经）