党的十八大以来，党中央高度重视发展和治理互联网，作出了一系列重大决策，推动我国网信事业取得了历史性成就。虚假信息治理，尤其是社交媒体中的虚假信息治理，是网络治理的重要组成部分，而治理虚假信息，首先应理解其为何以及如何生成，从根源与本质上进行破解。

社交媒体中的虚假信息生成于社交媒体、根植于互联网络。作为一种具体的媒体形式和平台，社交媒体有着独特的互联网生态环境，尤其承载着中国文化与经济基础，形成了丰富且个性的网络结构、社交文化与语境生态。

内容生产者多元化：确定虚假信息的生产源

随着社交媒体和移动互联网的高速发展，传统媒体纷纷走上媒体融合之路。在传统媒体转型升级并向新兴媒介靠拢的同时，我国媒体融合还存在另一条路径，即商业新媒体平台以及基于平台而诞生的自媒体向传统媒体靠近，包括学习传统媒体发布内容的专业性流程，寻求传统媒体的话语资源、合作路径、社会网络等，为此主动进行的产品形态的改造。除了上述以“融合”为主要特征的内容生产者，社交媒体中还存在着更原生态的用户，与专业性更强和信息素养更高的传统媒体以及向传统媒体融合学习的自媒体相比，它们的内容生产更随意，缺少系统审查与严格的“把关人”，无论这些社交媒体账号背后的实际操作者是个体还是群体，从数量上看，这些用户实际上构成了目前社交媒体平台的最大组成部分。

综合来看，社交媒体平台集合了多种类型、不同风格的内容生产者，也就造成了平台内信息质量不一、良莠不齐的现状。

信息过载与流量时代：催化虚假信息生产的利益基础

内容是社交网络中人与人连接的重要黏合剂，随着人与人的连接扩张，当网络节点越来越多、关系链条越来越复杂，也必然带来人与内容连接量的增长，甚至形成过度连接的重压，即内容过载和信息过载，信息海洋降低了虚假信息在其中的突出性与识别性，给了虚假信息藏身之地。也正是因为社交媒体中信息内容的海量增长，催生了另一种普遍的互联网生态现象，即“注意力经济”引导下对流量的追逐。一个人的注意力和精力是有限的，面对海量的信息库，真正能被用户接触到并留下印象的信息只是沧海一粟。因此，如何抓住受众的注意力对内容生产者而言是一项根本问题。

由此，“标题党”“营销号”等现象逐渐露出端倪，直至普遍存在于社交媒体乃至整个互联网世界中。“标题党”一般指传播者通过捏造、夸张、歪曲、拼接等手法，刻意改造传播文本（标题、内容、图片、链接等）以吸引受众关注的行为，是生产虚假信息的一种方式。“营销号”是指为了获取流量和利益而专门用来营销的网络信息发布者，且多为恶意营销，即通过加工或捏造等方式制造虚假信息，并结合“召集水军”“买卖社交网络账号”等策略来吸引或转移网民注意力，进而扰乱网络资讯环境，达到影响舆论的目的。“标题党”“营销号”等乱象源于互联网传播中稀缺的注意力资源与丰富的传播资源之间的矛盾，通过制造虚假信息抢夺注意力资源，本质上是为了追逐经济利益。

在以社交媒体为核心产品和基本逻辑的移动互联网时代，注意力资源的另一种表现形式则为“流量”。如今在互联网行业中流传并默认的一个共识是：用户=流量=金钱，通过有效的推广方式并增加用户黏性获取流量，进而通过流量变现获取经济利益。如此的市场逻辑催生了“10万+”“爆款”“病毒式传播”，也让内容生产者不惜通过制造虚假信息以达到吸引受众获取流量的目的，甚至恶意引导流量。有了流量，内容生产者可以吸引资本或舆论的关注，而资本可以依靠流量赚取更多的利益，反复循环，容易使得部分内容生产者产生上瘾式的依赖，不断输出虚假信息。

媒介智能化：加速虚假信息的生产流通

在5G通信技术的推动下，媒介智媒化趋势日益明显，人与人、人与机器的关系和协作更加紧密。机器全面介入内容生产带来了时间和空间上的便利，但机器造假能力极强，且复制速度极快，搭配5G技术对信息传输障碍的消除，通过机器批量生产虚假信息并不困难，甚至不需要实时监控，只需要输入一段代码，便可使机器自主循环制造虚假信息并发布到各个社交媒体平台和应用场景中。尤其伴随着人工智能的深度应用，以集合神经网络和生成式对抗网络技术为核心的关键技术的“深度伪造”，为虚假信息的生产提供了新的形式与渠道。它可以将人们的脸和声音插入音频和视频中，令虚假信息更加隐蔽、更加难以捉摸，而算法推荐技术则将虚假信息推向更精准、定向的生产线。

文章来源：《信息记录材料》 网址: http://www.xxjlcl.cn/zonghexinwen/2021/0305/1148.html