靠AI“洗稿”非法获利8万余元 2人因非法经营罪被刑拘

真相来了丨靠AI“洗稿”非法获利8万余元2人因非法经营罪被刑拘

粉碎谣言，真相来了。人工智能工具的使用，给我们的工作生活带来便利，但也被一些不法分子利用，成为造谣的工具。近日，上海警方公布了多起案例，其中之一就是一个名为医学科学院细胞中心的微信公众号，发布了一则信息，自称跟某家医院合作，可以通过干细胞来治疗肾病，一起来揭开真相。

今年3月初，上海黄浦警方接到一家三甲医院报警称，一个名为医学科学院细胞中心的微信公众号，发布了包含大量不实信息的文章，对该医院声誉造成影响。

上海市公安局黄浦分局网安支队民警郁敏皓：文章说跟某医院有合作，可以通过干细胞来治疗肾脏病，但是经医院反馈，他们在平时的临床过程当中，干细胞是不能用在肾脏病的治疗的。

文章中，不仅编造医学科学院细胞中心与该医院进行合作，还声称该干细胞治疗项目源自国家级医学院，并罗列出多项联合研究疗效评估数据，还附带两名患者的康复案例。经医院核实，这些信息全部为杜撰。警方随后依法传唤了该微信公众号的工作人员陈某和蔡某。

上海市公安局黄浦分局网安支队民警郁敏皓：他是通过词库，还有关键字，利用AI直接生成这篇文章，包括提到的医院，包括里面一些人物其实都是AI弄的。编写文章的这个人，他是没有医疗背景去识别这个文章的真实性的。

经查，团队运营主管蔡某没有医疗知识背景，在无法核实真伪的情况下，放任陈某编写发布毫无事实依据的文章。民警表示，该公众号为某自媒体运营公司今年2月新注册的账号，以医疗科普为名发布文章，多篇文章出自没有任何医学知识的人员，目的只是为公司所服务的其他医院引流，招揽病人线下就医。

上海市公安局黄浦分局网安支队民警郁敏皓：其实他背后服务的团队，就是线下的这种医疗机构，为了引流，然后只要有客人来了，他们可能就会得到相应的分成。

目前，陈某、蔡某已被警方依法处以行政处罚。

为博眼球故意裁掉“AI生成视频”标签

除了利用AI编造谣言，还有人用AI生成的视频制造争议话题。在另一起案件中，当事人故意删掉AI生成视频的水印标签，制造外卖骑手打翻餐食又倒回的假象，引发大量舆论关注。

外卖员：好的，马上到了，你稍等一下。你放心吧，我的车技是这一带最好的，一滴汤都不带洒的，放心吧。

今年2月，这段外卖员将撒落在外卖箱里的面条，重新装盒配送的短视频在网上传播，造成恶劣影响。经警方调查，该视频完全由AI生成。

上海市公安局青浦分局网安支队民警徐祯意：这段视频下面并没有标识是AI生成的，我们最后经过溯源之后，发现这个视频系转载，原作者他在视频下方，有标注视频是AI生成这么一个情况。

经查，网民刘某某从网上下载了该视频，为博取眼球，他重新发布时故意裁切掉原视频中“AI技术生成”的水印标签。此后，网民高某某、武某某为吸引关注，还在评论区发布“我就这样干过”“哪个外卖员没干过，我就不相信了”等不实信息。

上海市公安局青浦分局网安支队民警徐祯意：评论区里的网民会去指责这个公司，如果我们不加以制止，让视频肆意扩散或者不及时澄清的话，对这个平台和公司肯定会造成比较持久的负面影响。

目前，刘某某已被警方依法处以行政拘留，高某某、武某某被处以罚款。

AI“洗稿”编造多家车企谣言两人被抓

一些不法分子还用AI“洗稿”来批量制造谣言。

AI“洗稿”简单说，就是利用AI技术，对他人发布的文章、信息进行抄袭、改写、删减、拼凑，甚至直接编造，变成伪原创内容。

在上海警方此次公布的一起网络水军案件中，不法分子就是利用AI“洗稿”非法获利8万余元。

今年2月，多家车企向上海警方反映，长期遭受网络不实信息侵扰。这些信息不仅捏造企业经营状况、新能源电池风险乃至交通事故伤亡等内容，还大量散布销量下滑、亏损扩大、员工福利降低等不实消息，并配上“腰斩”“信任崩塌”“窟窿50亿”等耸人听闻的词汇，刻意制造经营困难、乱收费等争议话题，严重影响了车企的正常经营。

上海市公安局嘉定分局网安支队副支队长阎皓：像新能源车，大家都非常关心的一个问题就是起火，起火的原因，它可能会去演绎。那么有一些可能是通过撞击，或者说发生了交通事故碰撞之后，电池液泄漏造成的起火。那么它可能是在AI编撰这个故事的过程当中，它会把细节给漏掉，就说这辆车在正常行驶的过程当中，突然就着火了。

经查，这些集中发布虚假消息的账号，实际运营者仅梁某、郭某两人。今年3月，两人被抓获归案。到案后他们交代，为博取眼球和获取平台奖励，两人配合搜集车企争议话题，再利用AI工具“洗稿”，杜撰涉企不实文章，并发布到网上。因平台奖励仅限新注册用户，两人通过非法渠道获取了约4000个各类网络平台账号，平台奖励减少后，便弃用，另寻新账号。两人明知无法保证AI生成内容的真实性，仍选择在平台监管较弱的凌晨1点至6点批量发布针对多家车企的谣言信息。

上海市公安局嘉定分局网安支队副支队长阎皓：赚钱模式主要是养了一大批新的社交媒体账号，然后是以这种发布原创型的文章在这个平台上面，吸引别人去浏览，后续平台会根据原创奖励的这种机制给他返钱。

警方表示，根据相关司法解释，违反国家规定，以营利为目的，明知是虚假信息，仍通过信息网络有偿提供发布信息等服务，扰乱市场秩序，属非法经营行为，个人非法经营数额达5万元以上或违法所得2万元以上，单位非法经营数额达15万元以上或违法所得5万元以上，即达到入刑标准。截至案发，梁某和郭某已累计发布不实文章70余万篇次，非法获利8万余元。目前，两人已被警方以涉嫌非法经营罪依法采取刑事强制措施。

当AI成为造谣工具网络平台应加强监管

通过此次上海警方公布的这些案件，我们看到，不法分子利用AI工具，低成本制造虚假信息，而一些网络平台已成为谣言传播与变现的主要渠道。平台一方面用奖励机制鼓励“原创内容”，另一方面却缺乏有效手段区分人工创作与AI编造洗稿。AI本身是一项技术，当它被用于编造谣言、制造争议、牟取非法利益时，网络平台更应加强监管，避免虚假信息传播。当前，上海警方已要求案件中涉及的平台方关停相关账号、下架不实信息，并会同网信部门敦促平台企业切实履行用户发布内容的审核义务。