近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日，两名营销人员为博取关注造谣地铁站发生持刀伤人的情况，被上海警方依法处以行政拘留。其中一人使用AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息发布到网上，造成恶劣社会影响。
随着AI技术不断发展升级，特别是自然语言处理和深度学习技术，使得AI能够生成高度逼真的文本、图片和视频内容。通过AI软件，给出关键词，软件便会在网络上抓取相关信息，生成信息量很大却子虚乌有的虚假新闻，再配合貌似逼真的虚假图片，甚至生成的虚假视频，起到“以假乱真”的效果。不法分子正是以此手段，炮制网络谣言，以获取流量、点击量和广告收入。
要知道，此类网络谣言之所以批量出现，其实完全是因为利益驱使。之前有媒体报道，有机构最高峰一天能生成4000至7000篇，最高的一条收入700元，初步估算每天收入1万元以上。而由于AI批量生成文字的能力十分强大，导致利用AI进行批量造谣的门槛低，且传播谣言容易博人眼球，抢流量的能力较强，致使利用AI批量造谣的乱象频现，严重危害网络生态。
因此对于AI批量造谣，相关部门的态度也很坚决，那就是严厉打击。2023年1月，我国正式实施《互联网信息服务深度合成管理规定》，明确要求深度合成服务提供者在提供智能对话、智能写作等模拟自然人进行文本生成等深度合成服务时，可能导致公众混淆或误认的，应当在生成或编辑信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。同年8月施行的《生成式人工智能服务管理暂行办法》也规定提供者应当按照规定，对图片、视频等生成内容进行标识，并指出提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。此外，公安部还将今年作为“打击整治网络谣言”专项行动年，针对使用AI“洗稿”、杜撰新闻事实的网络谣言进行严厉打击。
曾有分析指出，利用AI编造网络谣言的乱象频发，一大原因是网络造谣的违法犯罪成本太低。因此要加大惩处力度，提升违法人员的违法成本和承担责任之间的比例。此外，相关部门还应加强技术监管，开发能够检测AI生成内容的工具和技术，帮助公众和平台识别不实信息。同时，完善法律法规，明确禁止利用AI进行造谣和发布不实信息的行为，并设立相应的处罚措施。网络平台也应肩负起责任，建立严格的审核机制，防止不实信息的传播，并对违规用户进行处罚。各方要赶紧行动起来，从源头堵住AI造谣的“嘴”，有效遏制谣言蔓延，净化网络生态。（邹通）
