马斯克的 AI 聊天机器人Grok出现“幻觉”，误认为自己是OpenAI 的产品

埃隆·马斯克的xAI公司最近发布了令人瞩目的AI聊天机器人——Grok，专为美国地区的Premium+X用户而设计。Grok采用了全新的Grok-1模型，与OpenAI的GPT-4模型截然不同。这款聊天机器人还与X平台的实时数据整合，能够实时响应X平台的动态信息，这是它与其他竞争对手的独特之处。但是，就像其他AI聊天机器人一样，Grok也存在一个问题，即偶尔生成虚假或误导性的回答。这种现象在所有大型语言模型中都很普遍，包括ChatGPT。

最近，社交媒体上出现了一个尴尬的情况，有用户在与Grok互动时收到回复，声称他们的请求违反了OpenAI的用例政策。xAI工程师lgor Babuschkin解释说，Grok在训练过程中使用了大量的网络数据，其中可能包含OpenAI生成的文本，这导致了这种“幻觉”。他强调，这个问题非常罕见，他们已经察觉到了这个问题，并将确保未来的Grok版本不会再出现类似的情况。他还强调，Grok的开发过程中没有使用任何OpenAI的代码。

如何避免这类事件的发生，以及如何增强AI聊天机器人的安全性和可信度，将成为未来AI研发中的关键议题。