在谷歌 I/O 大会上，谷歌重点推广了其全新人工智能系统Gemini，声称该系统将在搜索引擎领域发挥重要作用。然而，在展示过程中，Gemini的人工智能特性暴露出了一个长期困扰大型自然语言模型的严重问题：过度自信导致错误回答。
在一段关于视频搜索功能的演示中，用户通过拍照和语音提问来进行搜索。举例来说，当用户询问“为什么扳杆无法移动到底”时，Gemini 给出了看似合理的答案。然而，这些建议实际上颇具误导性，如“打开后盖并小心取出胶片”。这种操作可能导致照片在非完全黑暗环境下曝光，从而损坏已拍摄的照片。
值得一提的是，这已经是谷歌旗下的人工智能产品第二次在公众面前出现重大失误。去年，谷歌的Bard聊天机器人在声称詹姆斯·韦伯太空望远镜是首个拍摄到太阳系外行星的望远镜时出现了错误。
总之，尽管谷歌Gemini系统在某些方面表现出色，但其在实际应用中仍暴露出一些明显的缺陷。这表明，在未来发展人工智能技术的过程中，我们需要更加关注其潜在风险，以确保我们能够更好地利用这一技术为人类带来益处。