摘要: 生成式人工智能模型在推动网络信息秩序变革的同时,亦衍生出“客观+主观”叠加的虚假信息内容风险,亟需根据其技术特性构建分析框架.基于生成式人工智能模型的混合专家架构、树状推理模式、本土化语义理解属性、开源生态机制,系统解构其虚假信息生产的技术逻辑.从数据输入、算法运作、内容呈现、认知传播4个环节切入,剖析虚假信息风险的传导机制.针对诸多风险,在数据端应建立覆盖采集、清洗、存储的全周期质量管控体系;在算法端需实施“准入审查—运行披露—事后核查”的过程性监管方案;在呈现端要强化场景化、可交互的“告知注意”标识机制;在认知端需培育用户数字素养与指令约束能力,以此实现人工智能时代信息安全治理.
中图分类号:
. 生成式人工智能模型虚假信息的生成机理与治理路径[J]. 信息安全研究, 2026, 12(7): 606-612.
| [1]李守伟, 张嘉政, 何海波, 等. 基于区块链的大模型数据监管体系设计[J]. 信息安全研究, 2025, 11(8): 682692[2]许皖秀, 王硕, 左晓栋. 欧盟数据保护认证制度与中国镜鉴[J]. 信息安全研究, 2025, 11(1): 9198[3]邓建鹏, 赵治松. DeepSeek的破局与变局:论生成式人工智能的监管方向[J]. 新疆师范大学学报: 哲学社会科学版, 2025, 46(4): 99108[4]魏钰明, 贾开, 曾润喜, 等. DeepSeek突破效应下的人工智能创新发展与治理变革[J]. 电子政务, 2025 (3): 239[5]李强治, 刘志鹏. 后Deepseek时代的人工智能发展与治理新趋势[J]. 科学观察, 2025, 20(3): 17[6]孙晋, 胡旨钰. 中国生成式人工智能的产业生态重塑及发展策略研究[J]. 湖北大学学报: 哲学社会科学版, 2025, 52(3): 171185, 197[7]Deng Z, Ma W, Han Q L, et al. Exploring DeepSeek: A survey on advances, applications, challenges and future directions[J]. IEEECAA Journal of Automatica Sinica, 2025, 12(5): 872893[8]何茂昌. ChatGPT的意识形态风险:样态、肇因及防范[J]. 西南民族大学学报: 人文社会科学版, 2023, 44(12): 188197[9]苏宇. 算法解释制度的体系化构建[J]. 东方法学, 2024 (1): 8195[10]王慧军, 王有远, 胡振鹏. 基于混沌理论的网络舆论事件风险评估[J]. 企业经济, 2012, 31(2): 7476[11]让·鲍德里亚. 拟像与拟真[M]. 王睿琦, 译. 南京: 南京大学出版社, 2025[12]孔少华. 从Immersion到Flow experience: “沉浸式传播”的再认识[J]. 首都师范大学学报: 社会科学版, 2019 (4): 7483[13]张洪忠, 任吴炯. 超越“第二自我”的人机对话——基于AI大模型应用的信任关系探讨[J]. 新闻大学, 2024 (3): 4760, 118119[14]Bernardo B M V, So Mamede H, Barroso J M P, et al. Data governance & quality management—Innovation and breakthroughs across different fields[J]. Journal of Innovation & Knowledge, 2024, 9(4): 100598[15]翟岩, 李小波. 数字平台网络暴力:内涵证立、生成机制与治理路径[J]. 科技与法律(中英文), 2025 (3): 93104[16]曾祥敏, 刘思琦. 真假“智”辨: 生成式人工智能参与事实核查的价值、逻辑与强化[J]. 新媒体与社会, 2024 (2): 7488, 402403[17]Morrow G, SwireThompson B, Polny J M, et al. The emerging science of content labeling: Contextualizing social media content moderation[J]. Journal of the Association for Information Science and Technology, 2022, 73(10): 13651386 |
| [1] | 程宇航, 尚涛, 姜亚彤, 杜瑞忠, . 基于自适应裁剪的深度学习差分隐私保护方案[J]. 信息安全研究, 2026, 12(6): 490-. |
| [2] | 陈先意, 王晶, 刘腾骏, 郭倩彬, 杨森, . 基于频域注入的动态隐蔽后门攻击[J]. 信息安全研究, 2026, 12(6): 510-. |
| [3] | 梅锦程, 张平, 赖富豪, 吴礼发, . 基于新型组合混沌系统和分数数论变换的 图像加密方法[J]. 信息安全研究, 2026, 12(6): 517-. |
| [4] | 谢绒娜, 吴煦雯, 王都和, 祝浩宣, . 基于多层敏感分析的个性化差分隐私数据发布方法[J]. 信息安全研究, 2026, 12(6): 542-. |
| [5] | 瞿淼樟, 师智斌, 常赵宇, 张薇, . 基于图神经网络和多特征融合的有害网站检测研究[J]. 信息安全研究, 2026, 12(5): 420-. |
| [6] | 左珮良, 付成龙, 缪宸硕, 刘学文, 李伟麟, 刘博雅, . 基于CSI特征的异构执行体动态调度算法[J]. 信息安全研究, 2026, 12(5): 428-. |
| [7] | 李开颜, 贾洪勇, 曾俊杰, 张建辉, . 全同态加密CNN推理的内存与噪声协同优化方法[J]. 信息安全研究, 2026, 12(5): 439-. |
| [8] | 李远海, 翟岩, 李小波, . 数字平台个人信息安全风险的生成逻辑与应对策略[J]. 信息安全研究, 2026, 12(5): 445-. |
| [9] | 李嘉澄, 曹雷, 徐松艳, . MLKEM算法的高性能硬件架构设计与实现[J]. 信息安全研究, 2026, 12(5): 452-. |
| [10] | 朱顺哲, 钮可, 卢艺航, 徐千惠, 李军, . 基于多尺度卷积注意力和双分支对抗训练的抗压缩鲁棒视频水印[J]. 信息安全研究, 2026, 12(5): 463-. |
| [11] | 李天峰, 谭丰隆, 王秉, 陈婧, . 我国网络信息安全政策的制度框架和规则特征[J]. 信息安全研究, 2026, 12(5): 474-. |
| [12] | 国强, 黄卉, 禄雨辰, . 零信任战略的实施路径研究[J]. 信息安全研究, 2026, 12(5): 483-. |
| [13] | 孙璇, 李彩霞, 李军, 任亚唯, 代海英, 余果, 周昊, . 基于改进双向TCN模型的SDN异常流量检测[J]. 信息安全研究, 2026, 12(4): 303-. |
| [14] | 李晓东, 窦一萌, 官里, 赵若云, 岳浩, . 一种基于混淆模分量的全同态加密算法研究[J]. 信息安全研究, 2026, 12(4): 311-. |
| [15] | 马自强, 孟誉卓, 魏良根, 王名宇, 张娟洋, . 针对wNAF实现ECDSA的格攻击研究[J]. 信息安全研究, 2026, 12(4): 319-. |
| 阅读次数 | ||||||
|
全文 |
|
|||||
|
摘要 |
|
|||||