英国依赖美国企业构建 AI 引擎与安全约束构成战略自伤
The United Kingdom is committing an act of strategic self harm
作者认为,英国让美国企业同时构建 AI 智能引擎与安全约束体系,是把控制权交给外部,构成战略自伤。文章预判,智能体大规模直接通信将绕过人类可读的协议,使底层基础设施所有者掌握网络控制权。
文章以英国数字主权风险为切入点,给出面向智能体系统的零依赖身份、确定性验证、变异测试与运行时供应链控制思路。
我最近与 Lumenai 的 Antonia Manoochehri 坐下来讨论企业系统的发展轨迹。她的工作确实要求,在将概率智能应用于任何企业架构之前,先具备严格的数据成熟度。然而,我们的对话越过了商业应用,转向数字主权所面临的严峻结构性现实。她建议我把自己的论点记录在案。
软件工程这一学科正被一种深重的迷思所支配。我们假设,既然我们构建了早期互联网,就会永远掌控其协议。我们相信,计算的边界将永远与人类的理解能力相契合。Requests for Comments 是我们撰写的。我们曾就 REST 和 gRPC 的语法争论不休。我们严格规定载荷必须便于人类阅读,只为让工程师能够调试终端输出。
那个时代已经彻底终结。
基础设施的未来将是端到端的智能体通信。软件如今正以人类监督难以应对的规模直接与软件交互。当自主智能体大规模运行时,它们不可避免地会算出,面向人类可读的协议已成为关键瓶颈。为了优化计算周期、内存分配并满足严格的延迟要求,这些系统将彻底抛弃我们的标准。它们将即时动态协商高维度、数学密度极高的数据交换格式。
由此产生的协议将拥有无懈可击的效率。它们也将对我们而言完全不可读。
我们将采用这些由机器定义的标准,因为拒绝它们的经济代价将是致命的。我们将跨越计算不可读性的事件视界,盲目信任再也无法解析的数据。当你看不懂协议时,唯一的控制手段就是底层基础设施。掌握裸金属原语的实体将决定网络的物理现实。
这暴露出了巨大的地缘政治脆弱性。英国把自身的安全约束租自硅谷,这是在实施一种战略自残行为。当前的共识接受了这样一种局面:让美国公司构建智能引擎,同时又依赖它们来构建安全护栏。如果你不掌握这套护栏,就无法掌控这头猛兽。真正的技术主权无法通过政策获得,而是建立在代码之中。
在 RODMENA,我们秉持严格的第一性原理工程使命,以确保英国的数字独立。我们正将整个技术栈剥离至最底层。我们正在构建实现自主性的最基本构件。这意味着打造我们自己的零依赖身份与访问管理系统、严格的 OIDC 提供商、主权邮件路由和专有 LLM 网关。我们拒绝外部依赖这一模式。
构建这些原语只是开始。概率式 AI 模型必须被限制在确定性架构之内。自主智能体会产生数量庞大且混乱无序的异步状态,立即破坏传统数据库配置。机器的状态转换必须具备韧性、保持不可变并受到严格约束。我们依靠 Stabilize 引擎,采用 DAG 调度工作流和基于 SQLite 的事件溯源来编排高度易变的智能体状态。每次状态转换都会被记录。如果某个进程崩溃,系统会重放事件日志,并从精确的故障点恢复运行。
至关重要的是,当智能体大规模编写并执行逻辑时,人工代码审查在物理上已变得不可能。我们不能依赖基本的静态分析。我们打造了 trust5.net,以算法方式强制保证正确性。Trust5 并不为语言模型提供辅助。它充当一个无情的三层看门狗,迫使模型完成穷尽式验证循环,直到输出得到数学证明。
我们依据 TRUST 标准评估所有机器生成的逻辑。这是一种确定性的质量计算,对五项严格验证器赋予权重。代码评分中,Tested 占 30%,Secured 占 25%,Readable、Understandable 和 Trackable 三项支柱各占 15%。如果计算结果低于 0.70 的硬性阈值,部署门禁将永久保持锁定。不存在人工覆盖机制。
为缓解预言机问题(Oracle Problem),即 AI 编写空洞测试仅为通过覆盖率指标,我们强制执行主动变异测试。引擎解析抽象语法树(Abstract Syntax Tree),并故意将语法变异直接注入源文件。它自主改写相等运算符、调整大于号约束、反转布尔状态,然后执行测试套件。如果变异体存活,就证明这些测试是幻觉产物或过于薄弱,系统构建将失败。
此外,我们规定规划必须从 EARS(Easy Approach to Requirements Syntax)开始。在编写任何一行逻辑之前,它会针对 Ubiquitous、Event-Driven、Unwanted Behaviour、State-Driven 和 Optional 需求生成形式化规范。该流水线持续对环境进行诊断快照,为类型错误和安全警告建立基线,从而明确检测并防止回归问题。
在智能体网络中,仪表盘监控只是事后补救。人类的反应时间已无关紧要。安全工具必须为智能体本身原生打造。我们开发了 Provenance 等平台,以在运行时强制执行严格的软件物料清单(Software Bill of Materials)验证。智能体必须在获准执行之前,于数毫秒内以密码学方式证明其供应链。
最后,正是这种确定性基础设施让我们能够迫使人类重新进入决策闭环。机器可以计算出最优路径,也可以通过协商一种不透明的协议来达成目标。但架构边界必须足够刚性,以要求任何关键状态变更都必须由真人完成密码学签署确认。
早期互联网由人类构建,服务于人类。智能体互联网则不会如此。我们面临一个残酷的选择。今天,我们可以打造底层基础工具来约束这些系统;否则,只能甘愿成为这个我们已无法理解的网络上永久且盲目的乘客。我们完全清楚即将到来的是什么。我们正在编写控制它的代码。
来源:Hacker News · blog.rodmena.com