AI巨头OpenAI正研发ChatGPT水印
AI领域动态：OpenAI推出文本水印技术以识别ChatGPT生成文本
近日，有报道称美国人工智能（AI）巨头OpenAI已成功研发出一款能高精度识别ChatGPT生成文本的工具，然而该公司尚未发布此产品。针对这一说法，OpenAI作出回应，确认正积极研究文本水印技术，但仍面临许多挑战。
据悉，OpenAI的文本水印技术主要通过对ChatGPT选择的单词方式进行微调来实现。这种方法实际上是在文本中植入一个难以察觉的水印，以便未来可借助专门的检测工具进行识别。OpenAI认为，文本水印是他们在探索的多个解决方案中的一个，其余方案还包括分类器和元数据，用于确定文本的出处。
虽然文本水印技术在某些情况下表现出良好效果，但在面对诸如翻译、改写或插入特殊字符等篡改行为时，其效果可能会大打折扣。此外，该技术可能在一定程度上影响到特定群体的利益，如非英语使用者。因此，OpenAI表示将审慎推进这项技术的研究，并将优先考虑开发视听内容认证工具。
