近年来,生成式人工智能(Generative AI)技术的发展给新闻行业带来了诸多变革,提升了内容生产的效率和多样性。然而,随着技术的普及,人工智能生成的新闻中包含虚假信息的比例也显著上升。根据2025年9月4日发布的NewsGuard最新报告,全球十大主流生成式人工智能工具在新闻话题上的虚假信息重现率从2024年8月的18%,飙升至2025年8月的35%。这一数据表明,在短短一年时间内,人工智能在新闻虚假信息传播上几乎翻倍,展现出严峻的内容真实性挑战。新闻传播的真实可靠素来是媒体行业的基石,而随着AI工具在新闻采编和分发中的介入,虚假信息的风险也在不断加剧。尽管AI厂商声称不断优化算法,减少误导性内容,但现实效果并未达到预期水平,甚至呈现出倒退的迹象。
虚假信息率上升的根本原因,主要源自生成式AI工具开始集成实时网络检索能力。过去,这些工具有大量不回答问题的现象,避免在数据截止日期之外的信息判断上产生误导。数据显示,非回应率从2024年8月的31%降至2025年8月的0%。从表面看,这是进步,使得AI能够实时回应用户查询。然而这一权衡导致AI模型不再屏蔽那些不可靠、低质量甚至恶意的信息来源。互联网本身信息复杂庞杂,充斥着大量被操纵的内容,尤其是通过网络水军、机器人账号和AI生成内容工厂传播的虚假新闻与误导信息,AI模型在无法有效区分真实与虚假的情境下,错误地将这些造假内容视为可信信息。
恶意势力包括俄罗斯等国家的网络针对性信息战,正在利用AI系统的这一弱点,强化其虚假信息的传播效率。尤其是在敏感的国际冲突和热点新闻中,AI工具更容易成为有意散布谣言和煽动性的虚假叙述的渠道。这种新兴的现象不仅挑战了公众的信息获取安全,也使得新闻平台和内容提供者面临声誉和法律风险。面对AI带来的虚假新闻泛滥,相关行业与监管机构需要采取多层面措施。例如,开发并广泛应用新闻可靠性评级系统,强化基于事实核查的False Claim Fingerprints技术,以及针对不同媒体形态(电视、播客、社交平台)实施专门的真实性评价。此外,建立实时监控与风险通报机制,如AI False Claims Monitor和Reality Gap Index,可以更精准地识别和量化虚假信息的传播趋势。
跨国合作同样关键,防止恶意国家行为对全球新闻生态系统的破坏。公众层面,提升媒介素养尤为重要,帮助用户增强甄别不实信息的能力,不盲目接受AI生成内容,鼓励求取多元来源并且主动查证。此外,内容平台和开发者应明确内容纠错政策,加大对AI模型的监管力度,与第三方事实核查机构协作,确保信息输出具备高标准的真实性和透明度。人工智能技术的发展能极大促进新闻传播的速度和覆盖,但并非万能护盾,虚假信息的挑战提醒业界慎重对待技术与道德的融合。未来,随着监管法规的完善以及AI系统技术的迭代升级,生成式AI在信息准确性方面有望获得改进,但迄今为止的趋势也揭示了行业需联合发力,驱动AI新闻内容安全和可靠的基础标准建设。在全球新闻生态愈加数字化和智能化的大背景下,理解这场"虚假信息率翻倍"背后的深层逻辑,将助力政府、企业及公众共建更加清晰可信的信息环境。
只有各方协同努力,才能扭转虚假信息泛滥的局面,促进一个健康成熟的新闻传播生态,为互联网信息时代注入更多信任与价值。 。
