五十年规格完备性探究:航空认证对人工智能治理中纪元限制、证明表面与结构鸿沟的启示
五十年规格完备性探究:航空认证对人工智能治理中纪元限制、证明表面与结构鸿沟的启示
作者: Christo Zietsman
摘要:
自1992年以来,航空软件认证已为受管制的软件系统落实了三项结构性要求:治理规范与运行证据之间的结构化治理关联、触发重新验证的上下文限定有效性(当运行上下文发生变化时),以及定义何为证明及其充分性的客观证据体系。这些要求出现在DO-178C和DO-330中,并通过FAA(美国联邦航空管理局)和EASA(欧洲航空安全局)的认证得到强制执行。
尚无任何现有框架要求将这些结构性属性作为单个AI(人工智能)治理文档的内在属性。系统提示词、AGENTS.md文件、治理策略或任务边界可以在不满足航空业三十年来强制执行的三项要求中的任何一项的情况下部署。航空业是最具技术严谨性的实例:其标准制定机构已承认其框架在AI系统上失效,但没有任何框架要求单个治理文档具备这些属性。
航空业的结构性要求在系统层面失效,因为AI系统是非确定性的,但在文档层面仍然可迁移:治理制品是一个静态制品,其结构性属性可以独立于其所治理的随机系统进行评估。
本文将对DO-178C的可追溯性架构、DO-330的重新验证触发条件以及DO-178C的客观证据要求映射到三项结构性发现上:治理文档有效性的纪元限制、作为重新验证反馈机制的证明表面,以及AI治理工具中结构完备性要求的缺失。一项实证研究(arXiv:2604.21090)发现,37%的AI治理文档低于结构性质量阈值。PromptQ的七项原则框架在治理文档层面落实了这些要求。