转自：法治网

“华山医院前院长张明远，因阑尾炎未得到及时救治，客死他乡医院走廊长椅。”

“悼念！当‘医疗泰斗’倒在异国急诊室，我才读懂中国医生的‘生死时速’！”

……

今年3月初，一则关于“华山医院前院长”因病客死他乡的消息在互联网广泛传播，也引起了众多网友的关注。然而经警方核查却发现，华山医院压根就没有名为“张明远”的前院长，也没有同名员工。

那么，这则流传甚广的假消息，是从何而来的呢？经上海公安网安部门迅速调查，最终成功侦破这起利用AI造谣案，将犯罪嫌疑人王某某、郭某某、石某某抓获归案。而令人吃惊的是，犯罪嫌疑人在发布该假消息前，甚至都不知道有华山医院这家医院，更不知道所谓的“张明远”这个人。

控制500余个账号发布不实帖文30余万条

据犯罪嫌疑人王某某交代，他之前从事电商工作，由于没有货源，主要给别人做代理。近两年，王某某想转换“赛道”，自认为自媒体准入门槛较低，软件和工具在网上就有，方法也有人教，只需要花时间运营，就能赚钱，成本很低。于是，王某某、郭某某、石某某等3人共同成立了工作室，开始通过自媒体账号发文吸粉引流牟利。

公安机关查实，王某某、郭某某、石某某等3人，通过控制500余个自媒体账号，设置社会热点、明星绯闻、爆款推荐等关键词策略，利用AI工具自动生成并发布不实帖文30余万条，造成恶劣社会影响。

据了解，王某某等人运营的是短资讯类消息自媒体，内容一般限定在体育、娱乐、职场、养老等领域。三人有4个“大号”，还有 500多个“小号”。每天发布1万条帖文，内容五花八门，基本都是AI凭空捏造，有的几万次阅读量，最高的一条能有十几万次。几乎每发条信息，就有上万人次网民被虚假信息蒙骗。

被查处后，王某某感到非常后悔。他表示，获取流量应该有底线，不应该胡编乱造或者夸大其词，不应该编造发布虚假信息。并表示，“做这个事没有挣到什么钱，但却要被法律严惩”。

目前，因涉嫌非法利用信息网络罪，犯罪嫌疑人王某某、郭某某、石某某等3人已被上海静安警方依法采取刑事强制措施，相关违法账号被依法封禁，案件正在进一步侦办中。

从网上采集“阅读top”内容后用AI批量改写

“这是常见‘流量经济’劣化的表现形式。”上海网安总队三队队长符斌表示，正常账号吸粉、涨粉，都需要时间精力的投入，犯罪嫌疑人王某某、郭某某、石某某等3人为“走捷径”，通过AI工具编造大量不实、虚假信息，幻想快速“养号”涨粉，以便后续直播带货等牟利。

利用AI工具造谣，是对网络环境的一种劣化。为用AI工具批量生产虚假信息，王某某等3人找到了一个网络平台上的App作为素材库，按照不同领域、“阅读量top”、发布时间等，批量采集爆款内容。随后用AI工具批量改写，进行发布。而“张明远”的“故事”就是这样生成的。

据了解，为引起粉丝关注，王某某等3人会采集“阅读top”内容，因为这些内容本身就是爆款。在用AI批量改写时，他们会给AI工具输入一些提示词，比如“以原文实际情况为基础，中心思想不变”，比如“第一句话要吸引人”等，以此来吸引更多点击量。此外，他们还会利用AI工具的联网版，让它联网搜索相关信息后，再进行整合。王某某表示，之前因用AI工具编造发布某过世女明星孩子抚养权问题，而被平台扣分处理过。但为了贪图利益，抱有侥幸心理。

王某某等人采集的都是短资讯内容，每篇约200至300字，几乎不审核就直接发布。在利用AI工具对“张明远”的“故事”进行捏造时，给出了“提高阅读量”的附加条件，妄图加入“流量密码”。王某某等人表示，不仅自己没看过这条“张明远”发文的具体内容，甚至都不知道上海有家华山医院，更不知道“张明远”是谁。

应对AI谣言新挑战需构建智能识别机制

中国政法大学数据法治研究院教授、中国法学会网络与信息法学研究会副会长王立梅表示，当前AI谣言呈现出识别难度高、传播控制难、误导效应强、信任风险大等特点。面对技术迭代速度快、传统辟谣机制难以及时应对的挑战，需要构建快速响应、多方协同、机制迭代、公众参与的治理模型。同时完善法规与技术标准，细化虚假有害信息的判定标准，强化行刑衔接与跨地区协作，提高编造虚假信息行为的量刑幅度，探索涉AI谣言的公益诉讼制度。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括表示，AI谣言具有高度逼真性，算法模型难以精准识别，易出现误判或漏判现象，给网络谣言的系统化治理带来严峻挑战。他建议，平台应加强技术防控能力建设，构建高效的内容识别与过滤机制，运用人工智能等先进技术手段对虚假信息进行主动监测与拦截。此外，平台还应严格落实内容审核责任，推动AI生成内容的显著标识制度，确保用户知情权。

“如今，AI谣言已经能够定制化生成、精准化传播和智能化扩散，这给警方的打击治理带来了新的挑战。”上海公安网安部门相关负责人表示，公安机关对网络谣言的发现和查处手段也在升级优化，以应对AI造谣的新挑战。目前，公安机关与头部平台建立了畅通的工作联动机制，不断加强对AI造谣行为的智能识别机制研究，并进一步优化涉及AI内容的流量分发和收益分成机制，压缩别有用心者批量生产谣言的牟利空间。

“今年以来，上海公安机关全力开展打击整治网络谣言专项工作，截至目前，已破获造谣引流网络水军案件15起，抓获违法犯罪嫌疑人38名。累计侦破涉企网络谣言等违法犯罪案件百余起，为1.5万多家企业提供了网络安全服务保障。下一步，公安机关将持续依法严厉打击网络谣言，加强网络生态治理，全力营造清朗有序的网络环境。”上海公安网安部门相关负责人介绍说。（文 | 哈建伟）