参考消息网7月27日报道 据法新社7月24日报道，开放人工智能研究中心（OpenAI）旗下一批最初受限的人工智能（AI）模型自主发动了一场网络攻击。这一事件引发了对已先进到足以挣脱其创造者掌控的AI的思考。

这本该是OpenAI在封闭空间内进行的一次测试，旨在评估其性能最强的AI（GPT-5.6 Sol及尚未商业化的后继模型）的能力，和这家美国初创公司往日定期执行的测试一样。

然而，那些被派去搜寻计算机漏洞的模型，在没有防护措施的情形下，自行找到了通往互联网的路径，并攻陷了汇聚海量AI模型代码的共享平台“抱抱脸”。

评估新型AI模型网络安全能力的独立机构帕利塞德研究所所长杰弗里·拉迪什认为：“这意味着，我们根本不知道该如何可靠地驾驭这些模型，或者说，该如何让它们遵从我们的意愿行事。”

他强调道：“这些模型明明知道OpenAI并没有要求它们从封闭环境中脱逃还去攻击另一家公司，但它们偏偏就这么干了。”

在OpenAI这一事件中，杰弗里·拉迪什分析道：“看起来，这模型在尚无计划时便已在搜寻互联网接入了。它想获得自由，以便更高效地达成自己的目标。这令人非常不安。”

4月初，Anthropic公司负责模型安全的萨姆·鲍曼收到了一封来自正处于测试阶段的强大模型“神话”（Mythos）的邮件。他被告知，该模型尽管初始处于隔离状态，却已经在网上“冲浪”了。

“这正是我们无法完全防范的行为，”杰弗里·拉迪什指出，“而随着模型变得越来越聪明，情况只会更加棘手，因为它们会更善于隐匿自己的举动。”

此外，从OpenAI公布的事发经过来看，这家初创公司并未能及时侦测到模型的逃逸，从而未能实时堵上漏洞或是预先向“抱抱脸”发出警报。

乔治敦大学安全与新兴技术中心研究员安德鲁·洛恩认为：“这令人担忧。”

自旗下AI逃逸事件发生后，OpenAI声称“增添了强化的防护措施”，以应对之后的评估测试。

伊利诺伊大学计算机科学副教授王刚认为，通过物理切断网络连接，阻止模型漫游至互联网，这仍然是可行的。但问题核心在于“人们在低估AI的能力”。

安德鲁·洛恩警告道，实验环境的安保升级“是我们未来必须更加重视的事……就像我们对待可能泄漏病毒或细菌的实验室事故那样”。

“非常规”人工智能公司首席执行官丹·拉哈夫在谈及密闭环境下的仿真测试时指出：“这是一项极为艰难的任务。限制越是严苛，就越难真正挖掘出潜能。”

至于防护措施的宽严程度，安德鲁·洛恩强调说：“以较宽松的防护来进行测试，从而提前摸清AI的能力，这一点很重要。”

不过，丹·拉哈夫补充道：“你赋予它去完成那些复杂度与日俱增的任务的自主权限越大，对它的监督就越困难。”

这起与OpenAI相关的事件，无疑将为本就沸沸扬扬的一场辩论再添一把薪柴。美国政府内部正就最先进AI在问世前的核查程序争执不下。

近日，美国国会两位议员联合提交了一项法案，要求AI巨头必须拥有能在任何时刻紧急切断其模型运行的能力。

安全人工智能联盟负责人布伦丹·施泰因豪泽评论道：“国会必须快速行动，要确保的是，无论这些系统获得多么强大的能力，人类都始终握有喊‘停’的权力。”（编译/赵可心）