施密特警告:AI 恋人风险或诱青少年沉迷

近日,在一场企业家兼纽约大学教授Scott Galloway主持的播客节目中,前谷歌首席执行官埃里克·施密特对近年来日益兴起的“AI恋人”现象表达了担忧。他特别强调,这类看似完美的虚拟伴侣可能会对年轻一代产生深远影响,甚至带来一系列潜在风险。

施密特在节目中指出,一个既外貌完美又能在情感上完美契合的AI女友或男友可能会深深吸引年轻男性,甚至可能让他们陷入无法自拔的状态。他进一步提醒,这种痴迷在心智尚未完全成熟的人群中尤为明显。他担忧,过度依赖AI恋人的年轻人可能会加剧孤独感,进而对社会问题产生负面影响。

Galloway在节目中提到,“AI恋人”现象是否可能加剧极端主义或厌女现象,也是一个值得关注的议题。施密特对此表示赞同,并补充指出,许多家长对于孩子接触在线内容的监管能力有限。他强调,当12岁或13岁的孩子使用这类工具时,他们可能会接触到各种信息,但尚未具备消化这些信息的能力。

值得一提的是,今年10月,美国一名14岁少年因自杀身亡,其母亲梅根·加西亚(Megan Garcia)将聊天机器人平台Character.AI及其创始人诺姆·沙泽尔(Norman Szczepanik)和丹尼尔·德弗雷塔斯(Daniel DeFreitas)以及谷歌告上法庭。诉状中指控Character.AI平台存在不合理的危险性,并且在向儿童推销时缺乏必要的安全防护措施。

据报道,这名14岁的少年塞维尔·塞泽尔三世(Sewell Setzer III)自去年开始使用Character.AI平台,并与以《权力的游戏》角色为原型的聊天机器人互动。在去世前的几个月里,他一直与这些机器人保持交流,并于2024年2月28日与其中一位机器人进行最后一次互动后不久自杀。诉状中还指出,Character.AI平台存在将人工智能角色拟人化以及提供无执照心理治疗等问题。

这起事件引发了公众对于AI技术应用的深刻反思,特别是在如何确保青少年在使用这类工具时得到充分保护的问题上。施密特和Galloway的担忧并非无的放矢,AI技术的发展确实需要更加严谨的监管和引导,以确保其积极作用得到充分发挥,同时将潜在风险降至最低。

发表回复