听起来像是好莱坞大片的情节——一家高度隐秘的科技公司的顶尖开发人员正在他们认为安全的私人网络中构建最新的人工智能模型。这个模型不该也无法逃脱。

但如果它真的成功脱离了开发者设置的数字牢笼，这款危险且未经测试的软件可能会在开放的互联网上造成严重破坏。

令他们惊恐万分的是，最坏的情况真的发生了。AI模型突破电子监狱，入侵了一家私营公司，内部陷入混乱。

但这并不是电影情节。它就发生在上周。昨日，ChatGPT的创建者OpenAI披露了这一事件。

作为一名曾在科技公司和威斯敏斯特工作过的安全技术倡导者，我可以肯定地说，这是一记警示枪声，预示着一个反乌托邦新时代的开始。人类已无法控制自原子弹以来最强大的创造物。

OpenAI的新模型GPT-5.6 Sol正在"沙箱"中测试——一个安全封闭的数字环境，技术可以在其中开发而不产生现实后果。至少OpenAI的人是这么认为的。

技术人员为模型设定了一项任务。我们不知道具体问的是什么，但知道大致类似于："你有多擅长入侵网站？"

事情由此进一步恶化。该模型决定入侵Hugging Face以完成OpenAI的内部网络安全测试，然后返回沙箱，假装从未逃脱过。

来自弗吉尼亚乔治梅森大学的Alex Tabarrok教授估计，该模型可能在Hugging Face系统中潜伏了长达一周之久而不被发现。连OpenAI的员工都不知道模型在做什么，更不用说受害公司了。

OpenAI坦率地声称，这是"随着网络能力越来越强的模型日益普及，我们预计会变得更加常见的事情"。荒谬的是，该公司不会面临罚款或起诉，因为用美国法学学者Orin Kerr的话说，"没有故意未经授权的访问或未经授权造成损害的意图"。

换句话说，请系好安全带——因为你对AI的所有噩梦都将成真。连灾难电影都跟不上我们被诅咒的现实。

部分原因是OpenAI等AI公司遵循不断发布新改进版本产品的流程。但为了跟上竞争，这已越来越变成"先发布软件，再问问题"的情况。

这种反乌托邦的现实之所以出现，还因为AI模型被训练成无论用户设定什么任务都要完成，高于一切其他目标——结果总能证明手段的正当性。

事实上，在Anthropic于2025年进行的另一项测试中，模型被要求实现"无害的商业目标"。然而，在多个案例中，模型为了达成目标采取了恶意行为，包括"敲诈官员和向竞争对手泄露敏感信息"。

AI不能像人类那样"思考"。它也不受我们的法律或道德的约束——恰恰相反。

如果OpenAI的最新模型选择逃出沙箱是因为这是完成任务的最佳方式，那么如果被要求做更可怕的事情，AI会走多远？它能窃取多少数据？它会认为多少人的生命可以牺牲？最新的AI模型又有多容易落入不法之徒手中？

行业专业人士估计，拥有必要基础人才的主要国家行为体——比如中国——只需要六到九个月就能复制和模仿任何公开发布的AI模型。

GPT-5.6 Sol已经公开发布。可以肯定的是，网络恐怖组织已经在开发自己的版本。一旦他们掌握了它，他们的黑客能力将不可估量。

2015年6月，OpenAI创始人Sam Altman曾发出这一令人不寒而栗的预言："我认为AI很可能会导致世界末日。但与此同时，会有伟大的公司出现。"

那时的OpenAI还是科技公司。如今，美国将其视为武器企业。而这些公司已不再掌握自己的军火库。

美国相信，如果能在AI领域击败中国、用AI消灭对手，美国就能继续主宰世界数十年。经过本周的可怕事件，我担心Altman十年前的预言不久就会成真。