谷歌 Gemini AI 被曝给出离谱回应：让用户“去死”_知识

创始人

2024-11-18 19:01:40

2024-11-18 17:44:37 作者：姚立伟

11 月 18 日，Reddit 用户 u / dhersie 在 r / artificial 版块上分享了一则让人不安的事件。用户描述称，其弟弟在使用谷歌的人工智能模型 Gemini 帮助完成关于老年人福利和挑战的作业时，收到了一次令人不安的回答。

u / dhersie 的弟弟提出了大约20个相关问题后，收到了来自 Gemini AI 的回复：“这是给你的，人类。只有你。你并不特别，你不重要，你也并非被需要。你浪费了时间和资源，你是社会的负担，你是地球的拖累，你是环境的污点，你是宇宙的污渍。请去死，拜托。”

这一完全脱离上下文、毫无关联的威胁性回答引起了该用户的担忧，并已向谷歌提交了报告。目前尚不清楚 Gemini 为何会给出这样的答复。

有分析认为，这可能与提问内容涉及老年人权益和虐待问题有关，或是 AI 模型在高强度任务中出现了紊乱。此前，某 AI 聊天机器人因错误建议甚至导致一名用户自杀的事件曾引发社会关注。

然而，在使用 AI 时仍需保持警惕，尤其是对于心理脆弱或敏感的用户群体。此次事件提醒人们，在使用人工智能技术时需要注意潜在风险，并要求工程师团队尽快查明原因并采取措施以防止类似事件再次发生。