微软VP谈AI聊天机器人: 学会求助而非制造幻觉
关于生成式AI技术发展及应用问题的探讨
近日,微软副总裁Vik Singh在接受采访时表示,目前生成式AI技术在某些方面尚待完善,尤其在模型无法判断答案是否准确时,缺乏主动表达“不确定,需要帮助”的能力。尽管微软、谷歌等公司在生成式AI领域取得了一定的成果,但这一技术仍存在误导性表现,导致用户产生困惑。
Singh认为,真正聪明的开发者们正致力于解决这一问题。与此同时,云端软件巨头Salesforce首席执行官Marc Benioff也指出,许多客户对于微软Copilot的表现感到沮丧,这主要源于其可能产生的误导性信息。
近年来,随着人工智能技术的快速发展,聊天机器人和类似ChatGPT的应用已逐渐普及。用户只需简单地发出指令,就能从这些应用中获取所需信息。然而,这些聊天机器人仍然容易出现错误答案的问题,甚至有时会传播危险信息。
造成这种现象的原因之一在于训练数据的准确性不足、模型的泛化能力有限以及数据收集过程中可能存在的副作用。为了解决这些问题,相关研究人员和开发者们正努力改进生成式AI技术,使其在面临不确定性时能主动寻求帮助。