利用AI“洗稿”编造车企谣言70余万篇，两人非法获利8万余元被刑拘

4月8日消息，据央视今日报道，上海警方近期披露了多起典型案件，涉及利用人工智能工具编造虚假信息并从中非法获利。

其中，两名不法分子通过人工智能“洗稿”手段，对多家车企发布大量虚假文章，总数超过70万篇次，非法获利8万余元，目前因涉嫌非法经营罪已被依法刑事拘留。另一起案件中，一个微信公众号编造了与三甲医院合作开展干细胞治疗肾病的不实信息，两名运营人员因此受到行政处罚。此外，一名网民故意裁剪AI生成视频中的“技术生成”水印标签，制造对外卖骑手的负面假象，已被行政拘留。

今年3月初，上海黄浦警方接到一家三甲医院的报警，称一个名为“医学科学院细胞中心”的微信公众号发布了多篇不实文章。这些文章声称该中心与医院有合作，可通过干细胞治疗肾病，并列举了所谓的联合研究数据和患者康复案例。经医院核实，干细胞目前并未被批准用于肾病临床治疗，文章中提到的合作、数据和患者案例均为捏造。警方调查发现，该公众号由一家自媒体运营公司于今年2月新注册，表面进行医疗科普，实际目的是为线下医疗机构引流，招揽病人后按比例分成。文章由工作人员陈某利用AI工具，通过词库和关键词直接生成，他本人没有医疗背景，无法辨别内容真伪。团队运营主管蔡某同样缺乏医学知识，在未核实的情况下放任发布。目前，陈某和蔡某已被警方依法处以行政处罚。

在另一起案件中，一段短视频自今年2月起在网上传播，内容显示一名外卖员将洒落在外卖箱里的面条重新装盒配送，引发大量批评。经上海青浦警方调查，该视频完全由AI生成，原作者在原始视频下方已标注“AI技术生成”字样。网民刘某某下载后，故意裁剪掉水印标签重新发布，以吸引眼球。此后，网民高某某和武某某为获取关注，在评论区发布“我就这样干过”“哪个外卖员没干过”等不实言论。目前，刘某某已被警方依法行政拘留，高某某和武某某被处以罚款。

在多起涉企谣言案件中，今年2月，多家车企向上海警方反映长期遭受网络不实信息侵扰。相关文章捏造企业运营状况、新能源电池风险、交通事故伤亡等内容，并散布销量下滑、亏损扩大、员工福利降低等消息，搭配“腰斩”“信任崩塌”“窟窿50亿”等夸张词汇。上海嘉定警方调查发现，这些集中发布虚假信息的账号实际仅由梁某和郭某两人运营。两人于今年3月被抓获，他们供述称，为博取眼球和获取平台奖励，配合搜集车企有争议的话题，再利用AI工具进行“洗稿”，将细节歪曲或删减后编造出不实文章。例如，他们把因撞击导致电池泄漏起火的事件，篡改为车辆正常行驶中突然起火。两人通过非法渠道获取约4000个网络平台账号，利用新注册用户可获得平台原创奖励的机制，在平台监管较弱的凌晨1点到6点批量发布谣言。截至案发，他们累计发布不实文章70余万篇次，非法获利8万余元。目前，两人因涉嫌非法经营罪被依法采取刑事强制措施。

警方指出，根据相关司法解释，以营利为目的，明知是虚假信息仍通过信息网络有偿提供发布服务，扰乱市场秩序，个人非法经营数额达到5万元以上或违法所得2万元以上即构成刑事罪名。当前，上海警方已要求相关案件中的平台方关停涉事账号、下架不实信息，并协同网信部门督促平台企业切实履行对用户发布内容的审核责任。

来源：IT之家