信息安全研究 ›› 2026, Vol. 12 ›› Issue (E1): 112-115.

• • 上一篇    下一篇

面向通用人工智能的安全风险与治理范式研究

郑俊,黄伟文   

  • 出版日期:2026-09-04 发布日期:2026-09-04

  • Online:2026-09-04 Published:2026-09-04

摘要: AGI在模型规模、能力泛化以及自主决策水平方面持续取得突破,使其逐渐突破传统人工智能以任务为核心的技术界限,展现出高度开放、动态演化以及跨领域迁移的能力特性。这一发展态势在大幅提升智能系统效率与创新潜力的同时,也带来了目标偏移、行为不可预测以及社会影响扩散等安全风险。相较于既有的人工智能安全问题,AGI相关风险具有生成机制复杂、影响范围广泛以及治理难度显著增大等特点。文章围绕AGI能力演进的逻辑,对其潜在安全风险形态展开系统分析,并在此基础上探讨关键安全技术路径与治理范式的构建方向,以期为AGI的可控发展提供理论依据与实践参考。

关键词: 通用人工智能, 安全风险, 人工智能治理, 技术安全, 治理范式

中图分类号: