参考消息网10月15日报道 据西班牙《先锋报》网站10月12日报道，在围绕如何更加安全地部署人工智能(AI)的讨论当中，微软首席执行官萨蒂亚·纳德拉提出，AI模型在架构层面应当配备一种类似恐慌按钮的装置，他将其称为“紧急刹车”。因此他认为，当下开发AI的科技企业应当“退一步，重新评估这项技术的信任架构”。

纳德拉表示，过去各类软件系统应用于全球经济时，都具备相应机制，可以追溯行为对应的具体代码路径。但AI出现之后，这套逻辑已经不复存在。

纳德拉称：“对于如今这些超级智能系统，我们已经无法用传统方式理解其运行机理。”

纳德拉担忧的是，尽管开发企业尚无法厘清AI智能体输出结果与已知数据之间的对应逻辑，却给了它们过大的行动自由度。他感叹道：“我们部署了这些复杂的智能体模型，允许它们调取最敏感的数据，还授权它们代表人类执行各类关键操作。”

因此他提出方案，“我们要预先假定模型已经遭到入侵，从源头就做好管控隔离”。这一构想源自上世纪70年代的信息安全原则：程序不能够绕过或者篡改权限管控机制。

放到人工智能领域，“就意味着要把AI模型，和调度它的运行环境、定义其行为边界的操作空间分离开”。按照这套思路，安全管控机制必须外置独立，不能交由开发模型的同一个团队掌控。

纳德拉列举了AI模型可观测性应当遵循的几项原则。首先必须实现多元冗余。关键业务不能只依靠单一模型，同时模型“不得用来校验自身输出结果”；第二，“模型每一次重要操作，都必须留下人类可读、无法篡改的操作记录”。

他还提出，机构必须拥有独立核验能力，判断模型可以访问哪些资源、能够执行什么动作；模型的有效性验证工作，同样不能交由待检测的这套AI自身完成。

纳德拉表示，启用这套紧急制动机制的前提是“预先假定模型已经被入侵，从一开始就做好约束”，“可以把它想象成紧急刹车：经过授权的人员，无论任务进行到哪一步，都应当有权暂停或是关停模型”。

最后，他呼吁完整公开各类AI安全事故细节，让全行业吸取教训，避免同类事件重演。纳德拉总结道：“最可靠的超级智能系统，不是那种让我们对模型本身无比信赖的系统，而是一套让我们尽可能不必去信赖模型本身的系统。”（编译/韩超）