关于谷歌AI对网络热梗的学习引发的安全担忧
近日,安全研究员科林·麦克米伦(Colin McMillen)发现,当用户询问谷歌如何往披萨中加入胶水时,谷歌的人工智能给出的建议并非正确答案,而是引用了之前一位网红凯蒂·诺托普洛斯(Katie Notopoulos)恶搞的文章,推荐用户在披萨中加入八分之一杯胶水。这一现象引发了人们对谷歌AI系统可能存在的错误学习的担忧。
值得注意的是,虽然人们很少会查询“往披萨里加多少胶水”这类问题,但在近期,“胶水披萨”这一网络热梗的热度逐渐上升。因此,谷歌AI给出这样的建议并非完全没有道理。然而,这仍然暴露出了谷歌AI系统在处理类似问题时可能存在的缺陷。
此外,这一事件还暴露出另一个问题,即谷歌AI似乎已经无法准确回答与其自身产品相关的问题。例如,当编辑们询问如何在隐身模式下截取Chrome浏览器屏幕截图时,谷歌AI给出的两个答案都是错误的。一个建议在普通模式的Chrome标签页中截取截图,另一个则坚称在Chrome隐身模式下根本无法截屏。
谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)曾承认,这些“AI摘要”功能产生的“幻觉”是大型语言模型(LLM)的“固有缺陷”,而大型语言模型正是“AI摘要”功能的核心技术。皮查伊表示,解决这个问题目前尚无有效方法(is still an unsolved problem)。
总之,随着谷歌AI技术的广泛应用,我们应关注其在处理实际问题时可能出现的错误或不足,以确保其能够更好地服务于广大用户。