近期,多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日,两名营销人员为博取关注造谣地铁站发生持刀伤人的情况,被上海警方依法处以行政拘留。其中一人使用AI软件生成视频技术,编造了地铁行凶的虚假视频等不实信息发布到网上,造成恶劣社会影响。
随着AI技术不断发展升级,特别是自然语言处理和深度学习技术,使得AI能够生成高度逼真的文本、图片和视频内容。通过AI软件,给出关键词,软件便会在网络上抓取相关信息,生成信息量很大却子虚乌有的虚假新闻,再配合貌似逼真的虚假图片,甚至生成的虚假视频,起到“以假乱真”的效果。不法分子正是以此手段,炮制网络谣言,以获取流量、点击量和广告收入。
要知道,此类网络谣言之所以批量出现,其实完全是因为利益驱使。之前有媒体报道,有机构最高峰一天能生成4000至7000篇,最高的一条收入700元,初步估算每天收入1万元以上。而由于AI批量生成文字的能力十分强大,导致利用AI进行批量造谣的门槛低,且传播谣言容易博人眼球,抢流量的能力较强,致使利用AI批量造谣的乱象频现,严重危害网络生态。
因此对于AI批量造谣,相关部门的态度也很坚决,那就是严厉打击。2023年1月,我国正式实施《互联网信息服务深度合成管理规定》,明确要求深度合成服务提供者在提供智能对话、智能写作等模拟自然人进行文本生成等深度合成服务时,可能导致公众混淆或误认的,应当在生成或编辑信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。同年8月施行的《生成式人工智能服务管理暂行办法》也规定提供者应当按照规定,对图片、视频等生成内容进行标识,并指出提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。此外,公安部还将今年作为“打击整治网络谣言”专项行动年,针对使用AI“洗稿”、杜撰新闻事实的网络谣言进行严厉打击。
曾有分析指出,利用AI编造网络谣言的乱象频发,一大原因是网络造谣的违法犯罪成本太低。因此要加大惩处力度,提升违法人员的违法成本和承担责任之间的比例。此外,相关部门还应加强技术监管,开发能够检测AI生成内容的工具和技术,帮助公众和平台识别不实信息。同时,完善法律法规,明确禁止利用AI进行造谣和发布不实信息的行为,并设立相应的处罚措施。网络平台也应肩负起责任,建立严格的审核机制,防止不实信息的传播,并对违规用户进行处罚。各方要赶紧行动起来,从源头堵住AI造谣的“嘴”,有效遏制谣言蔓延,净化网络生态。(邹通)