央视曝光 AI 造谣乱象，某自媒体为引流发布约 10 万条不实信息被上海警方采取刑事强制措施

本站 6 月 22 日消息，央视新闻昨晚对目前网络上频现的“AI造谣”内容进行报道，并援引了公安部网安局发布的一起网络谣言典型案例，相应案例中嫌疑人使用AI生成一系列“华山医院前院长张明远因阑尾炎未得到及时救治客死他乡医院走廊”等抓人眼球的内容，并将相应内容公开发布于网络平台，引发关注。

上海市公安局静安分局网安支队民警表示，经查，华山医院根本没有名为“张明远”的前院长，也没有同名员工，发布相应谣言者也并非账号注册者本人，注册者是因为通过兼职把自己的账号注册完之后交给他人使用。

警方深入调查发现，所谓“华山医院前院长客死他乡”的不实信息是某自媒体工作室所发布，实际运营者为王某某、郭某某、石某某等 3 人。相应工作室控制了大概有 500 余个自媒体账号，每天在网络上查找各种热点事件和消息，利用AI自动生成文章，在未经核实的情况下就在自己控制的账号上发布，一共发布了约 10 余万条的不实信息，造成了恶劣社会影响。

本站参考通报获悉，目前王某某、郭某某、石某某等 3 人因涉嫌非法利用信息网络罪，被上海静安警方依法采取刑事强制措施，相关违法账号已被依法封禁，案件正在进一步侦办中。

央视网表示，随着近年来 AI 深度合成技术的快速发展和应用，网络上频繁出现 AI 造谣乱象，除了伪造新闻外，还有不法商家生成名人带货广告 / 视频等推销商品。目前国家网信办正对此进行专项打击，截至6月20日，相应打击行动第一阶段已经累计处置违规小程序、应用程序、智能体等 AI 产品 3500 余款，清理违法违规信息 96 万余条，处置账号 3700 余个，各项工作取得积极进展。