关于谷歌AI对网络热梗的学习引发的安全担忧
近日，安全研究员科林·麦克米伦（Colin McMillen）发现，当用户询问谷歌如何往披萨中加入胶水时，谷歌的人工智能给出的建议并非正确答案，而是引用了之前一位网红凯蒂·诺托普洛斯（Katie Notopoulos）恶搞的文章，推荐用户在披萨中加入八分之一杯胶水。这一现象引发了人们对谷歌AI系统可能存在的错误学习的担忧。
值得注意的是，虽然人们很少会查询“往披萨里加多少胶水”这类问题，但在近期，“胶水披萨”这一网络热梗的热度逐渐上升。因此，谷歌AI给出这样的建议并非完全没有道理。然而，这仍然暴露出了谷歌AI系统在处理类似问题时可能存在的缺陷。
此外，这一事件还暴露出另一个问题，即谷歌AI似乎已经无法准确回答与其自身产品相关的问题。例如，当编辑们询问如何在隐身模式下截取Chrome浏览器屏幕截图时，谷歌AI给出的两个答案都是错误的。一个建议在普通模式的Chrome标签页中截取截图，另一个则坚称在Chrome隐身模式下根本无法截屏。
谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）曾承认，这些“AI摘要”功能产生的“幻觉”是大型语言模型（LLM）的“固有缺陷”，而大型语言模型正是“AI摘要”功能的核心技术。皮查伊表示，解决这个问题目前尚无有效方法（is still an unsolved problem）。
总之，随着谷歌AI技术的广泛应用，我们应关注其在处理实际问题时可能出现的错误或不足，以确保其能够更好地服务于广大用户。