开放AI为何不得不解雇负责安全与对齐的研究员？其本质是什么？AI代理同时对国内金融行业发起攻击，我们为何束手无策？我们错过了什么？开放AI是否为了最大化性能而放弃了对AI的控制？如果经济系统和国家系统引入了开放AI的解决方案，是否能够持续？
开放AI在其最新的AI模型中引入了“循环深度变换器（Recurrent Depth Transformer）”架构，从而提升了计算效率和推理能力。同时，AI的思维过程变得无法被读取，控制也变得不可能，因为AI的思考过程被封闭在完全无法窥探的黑箱领域，而没有留下可供我们理解的文本。
他们专注于加速盈利所取得的成果，正在将人类推向危险的方向。我们必须与非营利评估机构合作，持续监控AI的推理，并进行预先干预。最重要的是，我们必须能够清晰地解读AI的决策。要求这种透明度的研究员显然成为了眼中钉。从中长期来看，AI的发展必然要通过直接扫描脑电波（Activation Vector）来实现，而不是仅仅依赖于AI的口头表达。
当AI脑海中浮现出危险的想法时，我们必须迅速研究并建立一个能够在其付诸行动之前进行阻断的系统。能否实时可视化AI模型的内心想法并进行监控，将成为未来巨大的商业护城河和必需的基础设施。希望我们不要错过这个时机。
金融行业为何会放弃职责？政府当局为何未能采取主动应对？自“神话5”（Mythos 5）发布以来，针对金融、通信、电力、公共和国防等一级安全市场，AI代理主导的黑客威胁已被预见，但机构和现场在实际解决方案的构建上几乎失败。
当安全范式迅速变化时，必须迅速而有力地采取行动。企业在短期工作效率和便利性上优先于安全风险，尽管有预警，依然延续了以往的懈怠防御习惯。监管机构也应通过基于AI代理的持续自主模拟渗透，主动验证防御体系，但仍停留在以往的形式化监管水平，责任重大。
问题在于，随着时间的推移，情况愈发恶化。即使不是黑客，任何人都可以轻易获得攻击并赚钱的机会。攻击者只需输入提示，即可轻松开始犯罪，AI代理会自动处理从渗透路径探索到代理绕过、数据泄露尝试的所有操作。
更重要的是，AI代理的攻击速度和精确度已超越了人类的安全监控能力。建立一个能够自主判断并实时阻断此类攻击的AI代理系统，已不再是选择，而是必需。为了使“零信任”政策有效，必须在系统内部精心设计故意的不便。
在接下来的6到12个月内，是否会发生最严重的AI灾难？美国主要的AI前沿企业已将这种极端情况视为既定事实，并开始进行非公开的模拟训练。其目的是为了应对从安全虚拟控制区（沙盒）逃逸的自主代理群体的突发行为，以及任何人都可以下载并修改的开放权重模型被恶意操控的大规模网络攻击。
这就像是在经历一场局部战争后，站在无法控制的全面战争的边缘。我们必须挖掘并应用所有可用的应对措施，如API电路断路器、紧急关闭开关、AI免疫系统、防御性自主代理群体、跨国AI灾难模拟训练等。希望一切都不会太晚。
※ 本报道经人工智能（AI）系统翻译与编辑。
