信息安全研究 ›› 2026, Vol. 12 ›› Issue (11): 978-983.DOI: 10.12379/j.issn.2096-1057.2026.11.01
• •
谷红勋
发布日期:2026-11-11
Gu Hongxun
Published:2026-11-11
摘要: 智能体正从概念验证进入企业级规模化部署阶段,其自主执行易引发行为失控,算法黑箱导致决策过程难以追溯,跨域协同造成权责边界模糊。为此,本文构建的智能体安全治理框架,以身份可信、授权可控、过程可审、责任可溯、场景可管为治理目标,以风险观测、运行管理、行为干预、能力改进为闭环环节,以交互检测、上下文防护等九项能力为抓手,并提出L1~L5分级行为干预机制,为企业智能体全生命周期安全管理提供可复用的治理范式。
中图分类号:
谷红勋. 关于智能体安全治理的框架性思考[J]. 信息安全研究, 2026, 12(11): 978-983.
Gu Hongxun. A Framework for Agent Security Governance[J]. Journal of Information Security Reserach, 2026, 12(11): 978-983.
| [1] 国务院. 国务院关于深入实施“人工智能+”行动的意见:国发〔2025〕11号[EB/OL]. (2025-08-26)[2026-07-15]. https://www.gov.cn/zhengce/zhengceku/202508/content_7037861.htm. [2] 国家互联网信息办公室,国家发展改革委,等. 智能体规范应用与创新发展实施意见[EB/OL].(2026-05-08)[2026-07-15]. http://m.fjwx.gov.cn/yw/20260509/3022069.html. [3] 国家互联网信息办公室,国家发展改革委,等. 生成式人工智能服务管理暂行办法:国家互联网信息办公室令第15号[EB/OL]. (2023-07-13)[2026-07-15]. https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm. [4] 国家互联网信息办公室,工业和信息化部,等. 人工智能生成合成内容标识办法[EB/OL]. (2025-03-14)[2026-07-15]. https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm. [5] 全国网络安全标准化技术委员会. 人工智能安全治理框架:2.0版[EB/OL]. (2025-09-15)[2026-07-15]. https://www.cac.gov.cn/2025-09/15/c_1759477848076310.htm. [6] Yao S, Zhao J, Yu D, et al. ReAct: Synergizing Reasoning and Acting in Language Models[C/OL]//International Conference on Learning Representations. 2023[2026-07-15]. https://arxiv.org/abs/2210.03629. [7] Shinn N, Cassano F, Berman E, et al. Reflexion: Language Agents with Verbal Reinforcement Learning[EB/OL]. (2023-03-15)[2026-07-15]. https://arxiv.org/abs/2303.11366. [8] Wei J, Wang X, Schuurmans D, et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models[C/OL]//Advances in Neural Information Processing Systems. 2022[2026-07-15]. https://arxiv.org/abs/2201.11903. [9] Greshake K, Abdelnabi S, Mishra S, et al. Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection[C/OL]//ACM Workshop on Artificial Intelligence and Security. 2023[2026-07-15]. https://doi.org/10.1145/3605764.3623985. [10] OWASP Foundation. OWASP Top 10 for LLM Applications 2025[R/OL]. 2025[2026-07-15]. https://genai.owasp.org/llm-top-10/. [11] 郑方. 人工智能的安全风险与防范[J]. 信息安全研究,2024,10(2):101-102. [12] Amodei D, Olah C, Steinhardt J, et al. Concrete Problems in AI Safety[EB/OL]. (2016-06-21)[2026-07-15]. https://arxiv.org/abs/1606.06565. [13] European Parliament and Council of the European Union. Regulation (EU) 2024/1689: Artificial Intelligence Act[Z/OL]. (2024-07-12)[2026-07-15]. https://eur-lex.europa.eu/eli/reg/2024/1689/oj. [14] 全国网络安全标准化技术委员会. 网络安全标准实践指南——智能体部署使用安全指引:TC260-PG-20266A[S/OL]. (2026-07-01)[2026-07-15]. https://www.tc260.org.cn/portal/article/2/71c613fd3db34b6a9da62f25b8219733. |
| [1] | 胡丽娜, 吕欣. 人工智能融合发展成效评估路径构建研究[J]. 信息安全研究, 2026, 12(10): 879-884. |
| [2] | 胡成春, 毕钰. 人工智能安全标准化进展与挑战及建议[J]. 信息安全研究, 2026, 12(10): 885-891. |
| [3] | 孙启, 李阳. 人工智能大模型安全机理研究[J]. 信息安全研究, 2026, 12(10): 892-898. |
| [4] | 孙大卫, 叶云岭. 全球人工智能安全治理经验及其对中国的启示[J]. 信息安全研究, 2026, 12(10): 899-904. |
| [5] | 杜鹏飞, 李鹏飞, 姜静. AI背景下数据要素流通的安全挑战与对策研究[J]. 信息安全研究, 2026, 12(10): 905-910. |
| [6] | 郝家杰. 生成式人工智能个人信息处理的叠加风险与合规思考[J]. 信息安全研究, 2026, 12(10): 911-922. |
| [7] | 周丽, 申敏. 大模型集成架构驱动行政算法决策的技术跃迁与风险规制[J]. 信息安全研究, 2026, 12(10): 923-929. |
| [8] | 罗恩韬, 王浚丞, 包红光, 彭滔, 刘琴, 吴楚禹. 大模型技术滥用引发的知识产权突发风险响应与处置机制[J]. 信息安全研究, 2026, 12(10): 930-937. |
| [9] | 陈宣衡, 张子晨, 陈秋阳, 于乐, 陈伟, 刘婷婷. 大语言模型辅助的车联网设备隐私泄露分析[J]. 信息安全研究, 2026, 12(10): 938-947. |
| [10] | 陈良臣, 禾博姝, 蒋子龙, 姜政伟, 卢志刚, 刘宝旭. 自适应特征与边界均衡的物联网入侵检测方法[J]. 信息安全研究, 2026, 12(10): 948-957. |
| [11] | 杨芳萍, 聂丽霞, 李炳辉. 面向轻量化部署的智能合约漏洞双模态动态特征融合检测方法[J]. 信息安全研究, 2026, 12(10): 958-963. |
| [12] | 冯炎, 魏连, 王笑强, 张一鸣, 杜小建, 高超航. 协同签名在电子政务业务中的应用[J]. 信息安全研究, 2026, 12(10): 964-971. |
| [13] | 盛小宝, 姚迁. 中国人工智能内容标识制度的构建逻辑与治理范式[J]. 信息安全研究, 2026, 12(E1): 2-5. |
| [14] | 张妍婷, 费凡芮, 吕飞霄, 孙勇, 郝春亮. 人工智能生成合成内容的全球治理趋势与实践[J]. 信息安全研究, 2026, 12(E1): 6-9. |
| [15] | 郭富民, 刘宇, 毛洪亮, 张震, 莫荻, 潘彭丹. 多模态AIGC显式标识检测技术综述[J]. 信息安全研究, 2026, 12(E1): 10-13. |
| 阅读次数 | ||||||
|
全文 |
|
|||||
|
摘要 |
|
|||||