研究成果助力识别AI虚假信息_知识

研究成果助力识别AI虚假信息

创始人

2025-12-24 09:45:29

本报讯（通讯员肖雯雯记者冯丽）记者日前从西安建筑科技大学获悉，该校管理学院智能管理与决策团队在人工智能虚假信息识别与治理研究领域取得重要进展，首次揭示了AI虚假信息的质量调节效应，为推进数字安全和网络生态治理提供关键技术支撑。

与传统人工编造的谣言不同，AI虚假信息在语言流畅性和结构完整性方面更具迷惑性，给识别与治理带来了新的挑战。尽管近年来学界普遍尝试利用AI参与事实核查与虚假信息检测，但在实际应用中，其识别效果并不总是稳定可靠。

研究团队首次提出并验证了“AI虚假内容的质量调节效应”，即随着生成内容质量的提高，AI文本在创造性、表达规范性和整体可读性上逐渐逼近人类写作，同时其可被检测的语言差异却不断减弱。这一发现表明，当AI被用于高质量“洗稿”或细节捏造时，无论是普通读者，还是现有依赖大型语言模型的检测工具，其识别难度都会显著增加。研究结果不仅揭示了单纯依赖语言特征或大型模型进行虚假信息检测所面临的潜在风险，也为理解AI生成文本的认知加工机制提供了新的证据支持。相关结论在一定程度上呼应了刺激贫乏理论、范例理论和加工流畅性理论，为AI虚假信息研究提供了更具解释力的理论框架。

《中国教育报》2025年12月24日第03版

作者：通讯员肖雯雯记者冯丽

上一篇：因卡皮耶受伤，阿森纳16岁小将萨尔蒙将迎来首发机会！

下一篇：AI主播说 | 网红“玫瑰盐”实则不宜食用！

研究成果助力识别AI虚假信息

相关内容

热门资讯