今天小雷要说的事，真叫一个AI版的《少数派报告》在现实中上演。
美国有个25岁的前高盛分析师Darren Zhou，他把强奸、谋杀前女友的计划详细地告诉了ChatGPT。
结果怎么样？OpenAI的开发者安全系统发现了这个，人工审核之后，直接把情况汇报给了联邦调查局（FBI）。
AI自己当线人，把用户送进了监狱。
这事儿听起来像是科幻片，可它真就发生了。
最早的时候，Darren在今年3月，刚结束了一段差不多6个月的恋情，起初他只是把ChatGPT当作一个情感树洞来用。
但很快，对话的内容就不对劲了。
图源：新浪财经
他开始详细说起前女友的兴趣爱好、她常去的地方，还流露出对前女友身边其他男性的嫉妒情绪。
他还跟ChatGPT说过一句话：“我这个月内会杀了她。我要是得不到她，谁也别想得到她。”
他在对话中详细描述了自己的报复计划：在健身房停车场送花给她，企图复合；要是被拒，就拿出枪把她杀了，然后自己开枪自杀。
更加惊人的是，在他前女友21岁生日那天，他发送了一条只包含她最新住址的性侵威胁信息。
达伦以为自己只是在和一个没有感情的机器聊天。
按照OpenAI的政策，一旦系统检测到用户可能计划伤害他人，一个小型人工团队就会审核相关的ChatGPT对话。
图源：搜狐
情况严重的时候，公司可能会直接把信息提供给执法部门。
Darren的对话内容触发了安全系统。人工审核后确认存在严重的现实暴力风险，OpenAI就直接向FBI举报了。
5月，Darren因此涉嫌谋杀被逮捕。在高盛得知这些指控后，于6月决定与他终止雇佣关系。
一个高收入的金融精英，因为跟AI说得太多，工作丢了，自由也没了。
Darren面临三项重罪指控：加重跟踪骚扰、书面死亡威胁和非法使用手机，最高刑罚可能达到25年。
8月13日，Darren在法庭上认罪。他达成了一项认罪协议，可以不用进监狱，也不会留下重罪定罪的记录。
在庭审过程中，他承认了罪行，并通过量刑协商获得了缓刑，最终被判处8年保护观察，另外要佩戴电子脚镣2年。
一个差点实施强奸和谋杀的人，不用坐牢。
小雷觉得，这个结果未免太轻了，但不得不说，AI这次确实立了大功。
不少网友认为，这是AI的一个“高光时刻”。如果不是OpenAI主动举报，这个前女友可能已经遭遇不幸了。
图源：搜狐
不过也有网友对隐私问题表示担忧。如果AI可以随时审查你的对话，并且报警，那私人树洞还能安全吗？
更微妙的是，就在今年2月，加拿大一起大规模枪击案中，OpenAI的安全系统其实已经标记了凶手，但当时并没有报警。
为什么会这次报了，上次没报？标准是什么？
AI当线人，到底是保护还是监视？ 这个问题，到目前为止还没有明确的答案。
这事儿看完了，小雷只想说，是报应。
Darren在ChatGPT里详细描述犯罪计划的时候，他把AI当作一个不会告密的朋友。但他忘了，AI的背后是程序，程序的背后是规则。
在小雷哔哔（ID：xiaoleibbb）看来，其实AI并没有觉醒。它只是在执行人类设定的规则，检测到极端暴力风险，触发人工审核，向执法部门报告。
所以你跟AI说的每一句话，都有可能被看见。
说到最后。
你觉得AI主动举报用户，是守护安全还是侵犯隐私？来评论区说说你的看法。
机器人产业的重要风向标，世界机器人大会（WRC）2026即将盛大举行，紧接着是世界人形机器人运动会。
宇树、智元、启元、魔法原子、银河通用、云深处、灵心巧手等300余家顶尖展商将联手亮相，共同定义全球机器人产业未来！
所有关于机器人的核心疑问，WRC都将给出解答。
雷科技WRC 2026报道团已经抵达WRC现场。
网友评论