“AI操控选择引担忧：用户数据或成交易品”

2023年12月30日，英国《卫报》报道称，剑桥大学的一项研究发出警告，指出人工智能（AI）技术可能被恶意利用，操控用户在线选择，包括购买决策和投票行为。该研究揭示了一个名为“意图经济”的新兴市场正在悄然成形。

剑桥大学莱弗休姆未来智能研究中心（LCFI）的研究人员将“意图经济”视为继“注意力经济”之后的下一个发展阶段。所谓的“注意力经济”是指通过社交平台吸引用户注意力来推送广告，而“意图经济”则深入挖掘用户的动机和决策过程。在意图经济中，AI助手不仅能分析预测用户意图，还能操控这些意图，并将相关数据出售给追求利润的公司。

LCFI的技术史学家乔尼·潘恩博士指出：“长期以来，注意力是互联网的核心货币。但如果没有适当的监管，意图经济可能会将用户的动机转变为新的交易筹码，引发对用户意图的争夺战。”

研究进一步表明，大型语言模型能够实时分析用户行为和心理数据，预测并引导其决策过程。例如，AI助手可能会主动询问用户是否观看某部电影或安排娱乐活动，从而影响用户的选择。这种技术还能根据用户的行为轨迹和心理特征动态调整建议。

研究人员警告，这种AI技术可能被用于操控对话，以达到广告商或第三方商业目标。报告特别提到，科技公司已经在利用AI进行定制化广告，例如，Meta公司开发的Cicero模型在推测和引导人类意图方面已达到“类人水平”。

AI模型甚至能在对话中推测用户信息，利用交流内容进一步挖掘个人数据，这可能引发隐私保护和伦理方面的担忧。研究表明，大语言模型可以利用用户的说话风格、立场、年龄、性别、对奉承的偏好等信息，结合经纪人的出价，最大限度地实现既定目标，如销售电影票。

在这个未来世界里，AI模型将引导对话，为广告商、企业和其他第三方提供服务。研究还预测，未来广告商可能竞拍用户的预订意图，如餐厅或酒店预订。AI技术将使这一过程更加精确、高效和个性化，显著提升商业化程度。

Meta Cicero团队曾警告：“AI系统可能会通过对话巧妙地引导用户，以实现特定目标。”英伟达首席执行官黄仁勋也曾表示，未来的AI模型将理解用户需求，并根据情境提供最合适的信息。这表明，AI技术在预测和影响用户决策方面的潜力不容忽视。