微软VP谈AI聊天机器人: 学会求助而非制造幻觉

关于生成式AI技术发展及应用问题的探讨

近日，微软副总裁Vik Singh在接受采访时表示，目前生成式AI技术在某些方面尚待完善，尤其在模型无法判断答案是否准确时，缺乏主动表达“不确定，需要帮助”的能力。尽管微软、谷歌等公司在生成式AI领域取得了一定的成果，但这一技术仍存在误导性表现，导致用户产生困惑。

Singh认为，真正聪明的开发者们正致力于解决这一问题。与此同时，云端软件巨头Salesforce首席执行官Marc Benioff也指出，许多客户对于微软Copilot的表现感到沮丧，这主要源于其可能产生的误导性信息。

近年来，随着人工智能技术的快速发展，聊天机器人和类似ChatGPT的应用已逐渐普及。用户只需简单地发出指令，就能从这些应用中获取所需信息。然而，这些聊天机器人仍然容易出现错误答案的问题，甚至有时会传播危险信息。

造成这种现象的原因之一在于训练数据的准确性不足、模型的泛化能力有限以及数据收集过程中可能存在的副作用。为了解决这些问题，相关研究人员和开发者们正努力改进生成式AI技术，使其在面临不确定性时能主动寻求帮助。