信息安全研究 ›› 2026, Vol. 12 ›› Issue (E1): 108-111.

• • 上一篇    下一篇

人工智能驱动科学发现的安全风险及治理

余菁洁,莫非,吴琪   

  • 出版日期:2026-09-04 发布日期:2026-09-04

  • Online:2026-09-04 Published:2026-09-04

摘要: 文章系统识别并探讨了人工智能驱动科学发现过程中存在的安全风险及其治理框架。基于知识管理与风险管理的理论视角,研究沿“知识生成—知识应用—知识传播”链路构建风险识别矩阵,将风险划分为内生风险、应用风险与衍生风险3类,并进行比较分析。研究发现,人工智能模型本体存在的缺陷贯穿于从知识生成到传播的全流程,对科学发现的真实性与可信度构成威胁;应用风险发生于人机交互及物理设备执行过程中,影响科研活动的安全性与可控性;衍生风险则源于科研系统与社会环境互动所产生的负外部性,危及伦理规范与社会秩序。针对上述风险,文章提出技术—制度—文化三维协同治理框架,通过引入可增强算法与数据透明度的工具,建立动态监控与快速响应机制,以及培育负责任创新的智能科研文化,将人工智能驱动科学发现的风险控制在学术界与社会可接受的阈值内。

关键词: 科学智能, 科研风险, 算法治理, 知识管理, 负责任创新

中图分类号: