微软AI技术助力去除虚假信息

微软研究人员致力于解决AI“幻觉”问题

近日，微软研究人员正致力于解决一种被称为“AI 幻觉”的现象。AI 幻觉是指 AI 模型在处理信息时，可能会改变原有的数据或者捏造不存在的信息。这种情况可能导致 AI 系统失去可靠性，因此在某些场景下，如医疗和教育等领域，准确性至关重要。

微软 AI 负责人 Sarah Bird 表示：“微软希望其所有 AI 系统都是值得信赖且可以有效使用的。”为此，项目团队花费大量时间和精力，利用检索增强生成技术（一种无需重新训练模型即可向模型添加额外知识的技术），将必应搜索数据作为 Copilot 的依据，以提供更准确、更相关的回复。此外，团队还开发了一系列工具来帮助机器解决幻觉问题，如根据来源文档评估响应的可靠程度以及实时工具来大规模检测应用中基于企业数据的可靠程度。

在应对 AI 幻觉方面，微软正在开发一种新的针对措施，可以实时屏蔽和纠正“毫无根据”的信息。当检测到事实依据错误时，该功能将根据数据自动进行重写。这些举措旨在确保 AI 系统的可靠性，使其在各个领域发挥更大的作用。