AI 伪造谣言：一水军团伙操控114个账号制造假消息牟利被查

近日，我国上海市网信办公布了2023“清朗浦江”网络生态治理专项行动的典型案例。在“上海四岁儿童走失”事件中，部分网络谣言和不实信息在网络上传播，严重影响了事件的正常处理和社会秩序。

据了解，去年国庆长假期间，“4岁女童在上海南汇新城海滩走失”事件引发了广泛关注。然而，在这起事件中，一些网络谣言和不实信息开始在网络上流传，如“儿童非其父亲生”“今年已经是第二次走失”等。这些谣言不仅误导了公众，还给当事人和他们的家庭带来了极大的伤害。

对此，浦东警方迅速发布警情通报，并针对这些不实信息进行了辟谣。同时，上海市网信办、公安网安部门加强对网络谣言的监测和处置，有效遏制了谣言的传播。经过深入调查，一个由多个自媒体账号组成的水军团伙浮出水面。这个水军团伙通过批量注册网络账号、转发炒作以及利用AI制造不实帖文的方式非法获利4万余元。

该团伙主要成员包括一名公司高层、一名经理和六名核心写手，他们在各大平台上注册了大量账号，围绕其他全国性社会热点频繁发布帖文。在此次事件中，他们选取热点话题，借助AI技术批量制造不实帖文，并组织其他员工通过公司账号大量转发，累计控制了114个网络账号，发布了268篇相关帖子，仅10月4日至9日期间就获得了4万余元的发帖收益。

截至2023年10月11日，该团伙中的12名成员已被依法移送起诉，涉案相关网络账号也已全部封禁。此案再次提醒我们，要加强对网络谣言的监管和打击力度，切实维护网络空间的清朗和健康。

此外，根据最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》，对于利用“深度合成”等生成式人工智能技术发布违法信息的行为，将依法从重处罚。这也意味着，随着新技术的发展，我们将更加重视网络信息的真实性和合法性，共同构建和谐、安全、可信的网络空间。