|
|
37.
大模型驱动的高阶程序
韦韬, 仲震宇, 刘焱, 陈达, 薛见新, 胡钺琳, 余超凡, 周云浩,
信息安全研究
2025, 11 (11):
1008-.
大模型因幻觉导致可靠性不足,难以满足专业领域(如金融、医疗、网络安全等)对精确性和可靠性的严苛要求.在传统专业领域,人类已经积累了大量的经验通过工程化的最佳实践实现高可靠性.这些最佳实践包括标准作业程序(standard operating procedure, SOP)和检查清单等机制.同样地,在大模型时代,首次提出大模型需借助高阶程序(highorder program, HOP)突破可靠性瓶颈.具体来说,HOP设计了一套新颖的任务融合描述与执行的语言,结合程序语言的精确执行能力与自然语言的知识表达优势,承载了专业领域的关键知识和实践并将其自动化.更重要的是其核验机制,补齐了当前大模型执行不验证的短板,保障了可靠性.在实践层面,HOP已经证明了其作为大模型行业应用急需且必须的控制体系的重大意义:HOP已经在密算金融风控全链路、网络入侵检测、医疗重复计费等多行业场景中初步应用,其时效性有显著提升(5~10倍),可靠性准确率均可达到99%.
参考文献 |
相关文章 |
多维度评价
|
|