-
题名融合响应特征差异的多模态AI虚假信息检测
- 1
-
-
作者
张新生
林承宇
马玉龙
王润周
-
机构
西安建筑科技大学管理学院
-
出处
《情报杂志》
北大核心
2025年第7期122-134,共13页
-
基金
教育部人文社会科学规划基金项目“泛在信息社会下AI生成式虚假信息风险感知及治理路径研究”(编号:24YJA630129)
陕西省社会科学基金年度项目“AIGC时代下生成式虚假信息风险感知及治理路径研究”(编号:2024R083)
陕西省自然科学基础研究计划项目“AIGC背景下虚假信息演化、识别及治理研究”(编号:2025JC-YBMS-1100)研究成果。
-
文摘
[研究目的]不法分子利用AI生成虚假图文信息,扰乱公众认知,威胁社会稳定。现有检测方法在面对不同AI模型生成的信息时普适性较弱,难以精准识别虚假内容。针对这一挑战,该研究从生成式AI的响应特征差异出发,探索有效的检测机制,以提升虚假信息检测的准确性和鲁棒性。[研究方法]通过对GPT、PaLM2、Llama2、Mixtral、RWKV五种主流生成模型的文本特征进行对比分析,提取词汇词性、情感倾向、语法结构、困惑度等多维度差异特征,并引入BERT与Vision-Transformer融合的BVT-CNN多模态虚假信息检测模型。实验采用消融对比方法,评估差异特征对检测性能的影响。[研究结果/结论]结果表明,融合差异特征后,wF1指标提高了4.94%,显著增强了对混合生成式AI信息的检测能力。研究成果不仅优化了AI虚假信息检测策略,对多种生成模型在响应特征上的差异进行归纳分析。
-
关键词
生成式AI
虚假信息检测
响应特征
普适性检测
差异特征
多模态
-
Keywords
generative AI
disinformation detection
response features
universal testing
difference features
multimodal
-
分类号
G202
[文化科学—传播学]
TP18
[自动化与计算机技术—控制理论与控制工程]
-
