信息安全研究 ›› 2026, Vol. 12 ›› Issue (11): 1020-1030.DOI: 10.12379/j.issn.2096-1057.2026.11.06
• • 上一篇
任祖梁
发布日期:2026-11-11
Ren ZuLiang
Published:2026-11-11
摘要: 智能体改变了生成式人工智能的数据训练、工具调用和内容传播逻辑,形成了多主体参与的行为链风险;具体表现在数据版权场景中为侵权形态延伸至素材调用场景、侵权风险的多主体参与以及侵权内容自动化输出的生态破坏。现有生成式人工智能的内容生态治理建立在内容审查与平台模型备案之上,难以回应智能体风险扩张,并阻断侵权行为链,表现为知识集中控制与多主体风险的结构性错位、内容审核与分段行为控制的错位、事后通知处置与链式侵权定位错位。由此,智能体治理路径应转向行为链控制,形成以节点控制划分的责任结构,以实现多主体的注意义务框架下的风险预防,具体表现为使用者的任务设定与授权确认义务、智能体服务提供者的全过程预防义务、第三方技术提供者的能力边界义务以及贯通行为链的责任追究机制。
中图分类号:
任祖梁. 版权视角下智能体输出内容安全风险及治理[J]. 信息安全研究, 2026, 12(11): 1020-1030.
Ren ZuLiang. Security Risks and Governance Paths for AI-Agent Outputs from a Copyright Perspective[J]. Journal of Information Security Reserach, 2026, 12(11): 1020-1030.
| [1] WANG L, MA C, FENG X, et al. A survey on large language model based autonomous agents[J]. Frontiers of Computer Science, 2024, 18(6):186345. [2] 中共中央宣传部,中央国家安全委员会办公室.总体国家安全观学习纲要[M]. 北京:学习出版社,人民出版社,2022:1-8,119. [3] 刘艳红. 生成式人工智能的三大安全风险及法律规制——以ChatGPT为例[J]. 东方法学,2023(4):29-43. [4] 姚佳. 生成式人工智能服务提供者的注意义务[J]. 法学论坛, 2026,41(3):17-31. [5] NOVELLI C, CASOLARI F, HACKER P, et al. Generative AI in EU law: Liability, privacy, intellectual property, and cybersecurity[J]. Computer Law & Security Review, 2024, 55: 106066. [6] 熊琦. 生成式人工智能平台的著作权侵权责任[J]. 环球法律评论, 2025,47(2):23-37. [7] 胡开忠,江璐迪.人工智能生成内容服务提供者的著作权侵权责任研究[J].华中科技大学学报(社会科学版),2025,39(5):49-61. [8] BEDUSCHI A. Data protection in the era of agentic artificial intelligence[J]. Computer Law & Security Review, 2026, 61: 106342. [9] 黄道丽,马民虎.AI智能体的法律定位与责任配置研究[J]. 信息安全研究,2026,12(8): 681-690. [10]许可.AI智能体的私法构造与行为边界[J].东方法学,2026(1):15-28. [11]张欣.论人工智能体的模块化治理[J]. 东方法学,2024(3): 129-142. [12]徐凌验. 大模型安全风险及治理路径研究[J]. 信息安全研究, 2024,10(10):975-980. [13]胡凌. 平台发包制:当代中国平台治理的内在逻辑[J]. 文化纵横, 2023(4):18-27. [14]YAO S, ZHAO J, YU D, et al. ReAct: Synergizing reasoning and acting in language models[C]//The Eleventh International Conference on Learning Representations. Kigali: ICLR, 2023. [15] QIN Y, LIANG S, YE Y, et al. ToolLLM: Facilitating large language models to master 16000+ real-world APIs[C]//The Twelfth International Conference on Learning Representations. Vienna: ICLR, 2024. [16] U.S. COPYRIGHT OFFICE. Copyright and artificial intelligence, part 3: Generative AI training—pre-publication version[R/OL]. Washington, D.C.: U.S. Copyright Office, 2025[2026-07-15]. https://www.copyright.gov/ai/Copyright-and-Artificial-Intelligence-Part-3-Generative-AI-Training-Report-Pre-Publication-Version.pdf. [17]陶乾,李研.检索增强生成技术对新闻出版单位的版权冲击与应对[J]. 中国编辑,2026(5):43-52. [18]袁帅. 数字化背景下作品非表达性使用的著作权法应对[J]. 知识产权,2024(9):110-126. [19] YE J, LI S, LI G, et al. ToolSword: Unveiling safety issues of large language models in tool learning across three stages[C]//Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics. Bangkok: Association for Computational Linguistics, 2024:2181-2211. [20] ZHAN Q, LIANG Z, YING Z, et al. InjecAgent: Benchmarking indirect prompt injections in tool-integrated large language model agents[C]//Findings of the Association for Computational Linguistics: ACL 2024. Bangkok: Association for Computational Linguistics, 2024:10471-10506. [21] ZHANG H, HUANG J, MEI K, et al. Agent Security Bench (ASB): Formalizing and benchmarking attacks and defenses in LLM-based agents[C]//The Thirteenth International Conference on Learning Representations. Singapore: ICLR, 2025. [22]观察者网. 小红书:将封禁主页所有公开笔记均为AI托管代发的账号[EB/OL].(2026-03-10)[2026-04-06]. https://www.guancha.cn/politics/2026_03_10_809519.shtml. [23]姚叶. 机器窃书为雅罪?——人工智能生成内容著作权侵权认定及风险纾解[J]. 暨南学报(哲学社会科学版), 2025,47(8):71-89. [24]武长海,黄静怡.利益平衡视角下AIGC服务提供者著作权侵权的认定[J]. 知识产权,2025(3):88-104. [25]王文敏. 人工智能对著作权限制与例外规则的挑战与应对[J]. 法律适用,2022(11):152-162. [26] QUINTAIS J P. Generative AI, copyright and the AI Act[J]. Computer Law & Security Review, 2025, 56:106-107. [27]杨显滨. 生成式人工智能服务提供者间接侵权责任的承担与限制[J]. 法学家,2024(3):46-60,191-192. [28]INFOCOMM MEDIA DEVELOPMENT AUTHORITY. Legal responsibility for AI agents: Discussion paper[R/OL]. Singapore: Infocomm Media Development Authority,2026[2026-07-15].https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/agents-legal-responsibility.pdf. [29] AYRES I, BALKIN J M. The law of AI is the law of risky agents without intentions[J/OL]. University of Chicago Law Review Online, (2024-11-27)[2026-07-15]. https://lawreview.uchicago.edu/online-archive/law-ai-law-risky-agents-without-intentions. [30]万勇,吴翔. 生成式人工智能服务提供者差异化注意义务的规范构造[J]. 数字法治,2026(2):1-18. [31]王利明,包丁裕睿. 论“通知”规则在生成式人工智能作品侵权中的类推适用[J]. 比较法研究,2025(4):1-13. [32]张继红. 生成式人工智能生成内容标识义务研究[J]. 法商研究, 2024,41(4):187-200. [33]LEE K, COOPER A F, GRIMMELMANN J. Talkin’ ’bout AI generation: Copyright and the generative-AI supply chain[J]. Journal of the Copyright Society of the USA, 2025, 72(2):251-409. [34]黄旗绅,李留英.网络空间信息内容安全综述[J]. 信息安全研究,2017,3(12):1115-1118 [35]虎嵩林. 人工智能时代的内容安全服务[J]. 信息安全研究,2019,5(11):959-960. [36]严驰.GPT4发展中的若干问题及其规制方案[J]. 信息安全研究,2023, 9(6):510-517. [37] JANSSEN M. Responsible governance of generative AI: Conceptualizing GenAI as complex adaptive systems[J]. Policy and Society, 2025, 44(1): 38-51. [38] TAEIHAGH A. Governance of generative AI[J]. Policy and Society, 2025, 44(1): 1-22. [39]支振锋. 生成式人工智能大模型的信息内容治理[J]. 政法论坛,2023,41(4):34-48. |
| [1] | 胡丽娜, 吕欣. 人工智能融合发展成效评估路径构建研究[J]. 信息安全研究, 2026, 12(10): 879-884. |
| [2] | 胡成春, 毕钰. 人工智能安全标准化进展与挑战及建议[J]. 信息安全研究, 2026, 12(10): 885-891. |
| [3] | 孙启, 李阳. 人工智能大模型安全机理研究[J]. 信息安全研究, 2026, 12(10): 892-898. |
| [4] | 孙大卫, 叶云岭. 全球人工智能安全治理经验及其对中国的启示[J]. 信息安全研究, 2026, 12(10): 899-904. |
| [5] | 杜鹏飞, 李鹏飞, 姜静. AI背景下数据要素流通的安全挑战与对策研究[J]. 信息安全研究, 2026, 12(10): 905-910. |
| [6] | 郝家杰. 生成式人工智能个人信息处理的叠加风险与合规思考[J]. 信息安全研究, 2026, 12(10): 911-922. |
| [7] | 周丽, 申敏. 大模型集成架构驱动行政算法决策的技术跃迁与风险规制[J]. 信息安全研究, 2026, 12(10): 923-929. |
| [8] | 罗恩韬, 王浚丞, 包红光, 彭滔, 刘琴, 吴楚禹. 大模型技术滥用引发的知识产权突发风险响应与处置机制[J]. 信息安全研究, 2026, 12(10): 930-937. |
| [9] | 陈宣衡, 张子晨, 陈秋阳, 于乐, 陈伟, 刘婷婷. 大语言模型辅助的车联网设备隐私泄露分析[J]. 信息安全研究, 2026, 12(10): 938-947. |
| [10] | 陈良臣, 禾博姝, 蒋子龙, 姜政伟, 卢志刚, 刘宝旭. 自适应特征与边界均衡的物联网入侵检测方法[J]. 信息安全研究, 2026, 12(10): 948-957. |
| [11] | 杨芳萍, 聂丽霞, 李炳辉. 面向轻量化部署的智能合约漏洞双模态动态特征融合检测方法[J]. 信息安全研究, 2026, 12(10): 958-963. |
| [12] | 冯炎, 魏连, 王笑强, 张一鸣, 杜小建, 高超航. 协同签名在电子政务业务中的应用[J]. 信息安全研究, 2026, 12(10): 964-971. |
| [13] | 盛小宝, 姚迁. 中国人工智能内容标识制度的构建逻辑与治理范式[J]. 信息安全研究, 2026, 12(E1): 2-5. |
| [14] | 张妍婷, 费凡芮, 吕飞霄, 孙勇, 郝春亮. 人工智能生成合成内容的全球治理趋势与实践[J]. 信息安全研究, 2026, 12(E1): 6-9. |
| [15] | 郭富民, 刘宇, 毛洪亮, 张震, 莫荻, 潘彭丹. 多模态AIGC显式标识检测技术综述[J]. 信息安全研究, 2026, 12(E1): 10-13. |
| 阅读次数 | ||||||
|
全文 |
|
|||||
|
摘要 |
|
|||||