炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：雷科技）

今天小雷聊的这个事儿，堪称AI版《少数派报告》现实上演。

美国一名25岁的前高盛分析师Darren Zhou，把强奸、谋杀前女友的详细计划写进了ChatGPT。

结果呢？被开发商OpenAI的安全系统监测到了，人工审核后直接举报到联邦调查局（FBI）。

AI主动当线人，把用户送进了监狱。

这事听起来像科幻片，但它真的发生了。

起初，Darren在今年3月，刚结束了一段约6个月的恋情，刚开始只是把ChatGPT当成一个情感树洞。

但很快，对话变了味。

他开始详细描述前女友的兴趣爱好、经常出入的地点，表达对她身边其他男性的嫉妒。

然后，话题逐渐升级为强奸、谋杀以及杀人后自杀的威胁。

他还对ChatGPT说过一句话：“我会在这个月底之前杀了她。如果我得不到她，那谁也别想得到她。”

他在聊天里详细描述了周密的报复计划：在健身房停车场用鲜花等她，要求复合；如果被拒绝，拔出枪杀了她，然后饮弹自尽。

更离谱的是，前女友21岁生日那天，他发了一条只包含她最新住址的性侵威胁信息。

达伦以为自己只是在跟一个没有感情的机器聊天。

而按照OpenAI的政策，当系统检测到用户可能计划伤害他人时，一个小型人工团队会审核相关ChatGPT对话。

情况严重时，公司可能直接向执法部门提供线索。

Darren的对话触发了安全机制。导致人工审核确认存在现实严重暴力风险后，OpenAI直接向FBI举报了。

5月，Darren因为涉嫌谋杀被捕。在高盛得知这些指控后，于6月终止了与他的雇佣关系。

一个高薪的金融精英，因为跟AI说太多，工作没了，自由也没了。

Darren被指控三项重罪：加重跟踪骚扰、书面死亡威胁和非法使用手机，最高刑期可达25年。

8月13日，Darren当庭认罪。他达成了一项认罪协议，可以不用入狱且不留下重罪定罪记录。

在庭审中，他认罪并通过量刑协商获得缓刑，最终被判8年保护观察，并需佩戴电子脚镣2年。

一个差点实施强奸和谋杀的人，不用坐牢。

小雷想说，这结果也太轻了，但不得不说，AI这次立了大功。

不少网友认为，这是AI的“高光时刻”。如果不是OpenAI主动举报，这个前女友可能已经遭遇不测。

但也有网友担心隐私问题。如果AI可以随时审查你的对话并报警，那私人树洞还安全吗？

更微妙的是，就在今年2月，加拿大一起大规模枪击案中，OpenAI的安全系统其实已经标记了凶手，但当时没有报警。

为什么这次报了，上次没报？标准是什么？

AI当线人，到底是保护还是监视？ 这个问题，目前没有标准答案。

这事儿看完，小雷只想说，活该。

Darren在ChatGPT里详细描述犯罪计划时，他把AI当成一个不会告密的朋友。但他忘了，AI的背后是人，人的背后是规则。

在小雷哔哔（ID：xiaoleibbb）看来，其实AI不是觉醒了。它只是在执行人类设定的规则，检测到极端暴力风险，触发人工审核，向执法部门报告。

所以你跟AI说的每一句话，都可能被看见。

说到最后。

你觉得AI主动举报用户，是守护安全还是侵犯隐私？来评论区聊聊你的看法。