“截屏造假”“张冠李戴”，正在成为一种低成本的、危害巨大的制造、传播谣言的手段，值得高度警惕。尤其当网络与现实生活高度契合，网民看到某些无权威来源信息后无法分辨真伪，层层传播后更将其推波助澜。于是，一条条无中生有的信息经过不法分子“包装”后，伪装成“热点新闻”传播，形成恶劣社会影响。
近年来，上海公安机关和市委网信办协同联动、综合施策，形成“工作发现—通报核实—辟谣打击”的网络谣言治理闭环，累计约谈“自媒体”账号运营主体近百个，进行公开曝光警示，形成震慑。
2024年是打击整治网络谣言专项行动年，公安部部署全国公安机关开展为期一年的专项行动。截至11月26日，上海公安机关累计查处网络谣言案件1464起，打掉“网络水军”团伙47个，清理网络谣言信息57万余条，关停违法账号5.5万余个，行政处罚相关单位63家。
打击整治谣言专项行动期间，上海网安部门主动出击，破获多起“网络造谣”类案件，入选市委网信办组织征选的“清朗浦江·2024”网络生态治理优秀创新案例名单。
出于炫耀心理制造“向寺庙借款”的谣言
2024年7月2日，一张所谓“网易新闻”发布的主要内容为“上海财政紧张 向寺庙借款100亿”的文字图片在各大网络平台快速传播，引起网民广泛关注，一度登上热搜。
上海警方第一时间对该信息进行核查，在确认是谣言后，会同属地公安机关对谣言发布者依法予以处罚，并同步协调本市媒体、具有一定影响力的本土网络大V发布事件真相，快速、精准击碎网络谣言，还原事实。
经查，犯罪嫌疑人孙某时常吹嘘自己能够得到“内部消息”，以营造自己“消息灵通”以及“人脉宽广”的人设。为了给自己的人设增加可信度，其使用图片编辑软件，将自己捕风捉影的信息与知名平台的报头拼接后发给他人，试图证实自己消息来源的可靠性。
澎湃新闻（www.thepaper.cn）记者注意到，相比以往“网络水军”犯罪团伙，“向寺庙借款”造谣者为个人，并且通报中未提及其有不法获利。上海市公安局网安总队告诉记者，不像“网络水军”有利可图，“个人制造谣言的目的一般是出于炫耀心理，往往通过发布一些未经证实的‘内幕信息’彰显自己的‘消息灵通’等”。
“从办案角度来说，一些蹭社会热点、有一定‘背景’、有细节描述的谣言容易引起社会关注。以‘向寺庙借款’案为例，从‘政府向寺庙借款’这样极具话题性的角度，辅以‘财政局一位不愿透露姓名的工作人员’和嫁接‘网易’背景突出‘真实性’，并列举了借款细节，进一步增加了谣言的‘真实性’。”网安总队表示。
AI生成的假消息具有哪些特点
除了个人造谣者，撰写、发布不实帖文以从中牟利的“网络水军”也屡打不绝，其提供的“服务”也愈发多样化和精细化。
近期，上海警方经过缜密侦查，全链条捣毁一个“网络水军”犯罪团伙，抓获犯罪嫌疑人11人，涉案金额达200余万元。
澎湃新闻记者从上海市公安局获悉，该团伙对外声称其业务为企业品牌形象优化，实则提供处置虚假帖文信息服务（部分文章由AI生成）。其根据客户要求，撰写不实文章，交给外包公司在各大互联网平台予以发布，意图稀释负面舆情、下沉负面帖文，虚增指定产品的影响力、曝光度、好评度，扰乱正常市场秩序。
记者注意到，相比传统的“网络水军”，该团伙使用了AI生成文章。AI生成的假消息该如何辨别，其又呈现出哪些特点？
网安总队告诉记者，目前AI生成的假消息的主要特征是标题“吸睛”，帖文采用“三段论”。“为吸引网民点击，网络水军通常使用‘标题党’‘震惊体’作为标题开头，如‘骇人听闻’‘丢人现眼’等较为夸张的形容词。在格式上，往往是‘三段式’文章，常常会出现文不对题，词不达意的情况。”
上海警方牵头组建“打谣联盟”
互联网作为社会公众获取信息的重要途径之一，网络信息的真实、可信是构建清朗网络空间的基础。面对纷繁复杂的网络信息，受众又该如何提高辨识能力？
网安总队介绍，对于热点事件，不法分子往往会在大众关心的公共事件中添加细节、歪曲事实，“所以即使有图有视频的信息也不能轻易相信，希望广大网友要保持理性，通过官方信息了解情况，辨别真伪。”
对于造谣引流、恶意评论、刷量控评、有偿删帖等“网络水军”，上海警方发起集群战役，全力挤压“网络水军”违法犯罪活动空间。
同时，上海警方督促指导各互联网平台严格落实信息安全管理主体责任，完善谣言发现、辟谣、处置全流程工作规范，对于已认定的网络谣言立即处置，防止反复传播；对于传播较广的无权威来源的信息，主动查证，争取把新发谣言消灭在萌芽状态。同时，健全网络平台实名制度，规范内容发布的审核标准及流程，坚决整治恶意摆拍并炮制谣言等违法违规行为，从源头降低网络谣言传播风险。
2024年以来，上海警方在大型互联网企业建立网安警务室，帮助互联网企业提升异常问题发现能力，提前化解处置各类风险隐患，为本市互联网企业营造法治化营商环境；指导本市信息网络安全管理协会，牵头组建了覆盖全市14家知名企业的“打谣联盟”，发布主题为“拒绝网络谣言，清朗网络环境”的倡议书，有效形成协同治理合力，激发互联网企业参与网络治理的主动性。
面对五花八门的网络信息，我们可能无法辨别真伪。但至少我们可以做到不推波助澜，“让子弹飞一会儿”。
