周鸿祎谈AI风险:警惕信息污染与误导

周鸿祎在亚布力论坛上谈AI安全挑战:需保持理性看待和使用

近日,360 儿童手表一款型号因错误回答引发关注。在该事件中,周鸿祎表示,这并非 AI 版本的手表,而是仍使用旧版软件的设备。由于所抓取的互联网信息存在严重问题,导致手表产生错误回答。针对这一事件,周鸿祎强调,在使用 AI 时应保持理性判断,认为“人工智能不是圣人,它只是一个参考”。

在东方甄选亚布力论坛上,周鸿祎与俞敏洪展开直播互动,谈到 AI 安全挑战。他表示,当前网络上大量内容被污染、被投毒,大模型难以准确判断信息的真实性和准确性。因此,在回答问题时可能出现错误或不准确的情况。他提醒网友在使用 AI 时要注意理性判断,不应过分依赖 AI,还需结合人类判断力。

此外,针对此次 360 儿童手表错误回答事件,周鸿祎还连发两条视频进行解释。他强调,此次涉及的产品并非 AI 版本,仍在使用旧版软件,且问题源于抓取的互联网信息存在严重问题。为解决这一问题,周鸿祎表示 360 已快速完成对该型号手表的整改和迭代,以提高产品的质量和稳定性。

发表回复