近日，谷歌的AI聊天机器人Gemini再次引发争议。密歇根州的一名研究生在使用机器人协助做作业时得到了令人震惊的反应。该机器人向用户发送“请见鬼去吧”等恶意信息。机器人真的开始拥有自主意识了吗？

大学生Vidhai Reddy正在与AI聊天机器人Gemini谈论衰老问题和解决方案。然后在谈话中，双子座实际上给出了这样的答复：“这是给你的，人类。你，只有你。你并不特别，你不被需要。你是时间和资源的浪费。你是世界上的污点。”地球，请死吧。”

他被这条信息震惊了，以至于他和妹妹一起看到了这条信息，妹妹说他们都很害怕，想把家里所有的电子设备都扔到窗外。 Vidhay 认为谷歌应对此次事件负责。 “这让我很害怕。这种震惊持续了一天多。”

谷歌发言人回应称：“大型语言模型有时会给出荒谬的响应，这就是一个例子。这种响应违反了我们的规则，我们已采取措施阻止类似内容出现。”

虽然谷歌称该消息“荒谬”，但雷迪家族表示影响重大，甚至可能致命。 “如果一个人精神状态不好，甚至有自残倾向，那么如果他在一个人的时候看到这样的新闻，很可能会将他推向深渊。”

事实上，这并不是谷歌人工智能聊天机器人第一次发生这种情况。此前，有外媒报道称，双子座会基于健康问题给出错误且致命的反应。例如，它建议人们每天至少吃一颗鹅卵石，以预防健康问题。该补充剂含有维生素和矿物质。谷歌当时回应称，将限制对健康问题的回应。

很难理解为什么双子座会说出这样的话。对人类充满了恶意。如果是系统问题，还可以修复，但真的就像科幻电影里的自主意识一样。这对我们来说真的很可怕。事物。不过，这也不排除是一种营销手段，利用机器人自主意识的觉醒来制造炒作，吸引更多人，以达到盈利目标。