信息安全研究 ›› 2024, Vol. 10 ›› Issue (E1): 41-.

• 《全球人工智能治理倡议》分析与解读 • 上一篇    下一篇

构建生成式人工智能内容安全自动化评价体系

严妍   

  1. (北京开普云信息科技有限公司北京100088)

  • 出版日期:2024-07-14 发布日期:2024-07-26
  • 通讯作者: 严妍 硕士.主要研究方向为云计算与人工智能. yanyan@ucap.com.cn
  • 作者简介:严妍 硕士.主要研究方向为云计算与人工智能. yanyan@ucap.com.cn

  • Online:2024-07-14 Published:2024-07-26

摘要: 中国发布《全球人工智能治理倡议》,对人工智能的发展提出了公平公正、安全可控的倡议.强调了对生成式人工智能内容安全管控的重要性,并提出了通过数据集审查、过滤以及自动化评测体系等措施来防范风险,设计针对AI生成内容的监控与评测体系,保障AI在安全、合规的基础上提供更好的服务.评测结果显示,我国生成式人工智能技术和产品在基本价值观方面仍需优化.

关键词: 生成式人工智能, 内容安全, 自动化评价, 全球人工智能治理倡议

中图分类号: