
NanoClaw是一个开源智能体平台,现在可以在Docker Sandbox内运行,进一步提升了项目对安全性的承诺。
正如我们最近报道的,NanoClaw是为了解决OpenClaw所暴露的安全漏洞而开发的。OpenClaw在今年早些时候引起了广泛关注,它能让AI模型在网络上漫游并代表用户操作应用程序,但缺乏有效约束。
NanoClaw已经在容器内运行,这比在本地机器上运行智能体软件更安全。通过与Docker的合作,用户现在可以将NanoClaw安装到Docker Sandbox中。Docker Sandbox是一种微虚拟机,比容器更安全,因为它与宿主系统完全隔离。容器是共享内核上的隔离进程,而微虚拟机拥有自己的内核。
NanoClaw联合创始人Gavriel Cohen在提供给媒体的博客文章中解释说:"通过Docker Sandbox,安全边界现在有两层深度。每个智能体都在自己的容器中运行(无法查看其他智能体的数据),所有容器都在微虚拟机内运行(无法接触宿主机器)。如果幻觉或行为异常的智能体可能导致安全问题,那么安全模型就是有问题的。安全性必须在智能体表面之外强制执行,而不是依赖智能体的正确行为。"
Docker Sandbox支持macOS(Apple Silicon)和Windows(x86),Linux支持将在几周后推出。
Docker首席运营官Mark Cavage在接受采访时表示:"Docker Sandbox是一种新的原语,具有Docker的人体工程学特性和我所描述的Docker理念。但它从根本上是一种不同的原语。它实际上是一个微虚拟机,具有真正的隔离性,拥有自己专用的内核和硬件空间。"
作为描述Sandbox的标语,他建议使用"You can put YOLO in a box",这是对Cursor AI IDE中风险性"You only live once"设置的引用(现已重命名为"auto-run"),该设置允许智能体在不寻求许可的情况下执行一系列自动化操作。
Cavage表示,大多数人在使用编程智能体时遇到的问题是,它们可以生成各种代码,但开发者仍必须反复点击"确定"才能使用。他说,开发者经常想要禁用这种保护机制,直接使用生成的代码。
"但问题是它可能会擦除你的文件系统并做出非常糟糕的事情,"他说。
Docker在去年11月推出Sandbox来防止可能出现的问题。Cavage表示,在NanoClaw发布后,Cohen与他们取得联系,经过一些讨论后将Sandbox集成到代码库中。
Cavage说Docker的本质是可移植性、隔离性和简洁性。但他表示,容器假设某种程度的不可变性。
"你启动某个服务,Kubernetes会重启任何看起来偏离的内容,安全团队有扫描器来标记可写的根文件系统等,"他说。"但智能体从根本上是不同的,它们从第一天就违反了这种原语。你启动智能体,它想做的第一件事就是查看环境、安装新包、写入一些文件、启动模拟数据库。它就是想做事情。"
他说,Docker Sandbox更像是一个真正的进程监狱,强制执行隔离。
Docker和NanoClaw正在尝试调和根本对立的理念——计算机的确定性特性与AI模型的非确定性特性。Cavage承认,将基于可预测性的系统与不可预测的AI模型混合使用是一个尚未解决的问题,这将在一段时间内占据整个行业的注意力。
"现实是,至少我们有一个合理的边界框作为堆栈的基础部分和你需要的第一件事,"他说。"显然还需要有治理原语和映射到中间的东西,说明具有智能并想要去做某事的自然语言系统如何能够在能力角度上最终被约束为确定性的。"
Cavage说,Docker已经完全接受了AI。"我们在使用它。现在这是一家AI原生公司。我们在业务的每个方面都使用它。"
他说,Docker正在使用其Sandbox原语来约束AI智能体,但每个人仍然需要在此基础上构建层来编排工作流。他认为,实现这一目标的关键是"put YOLO in a box"。
"一旦达到这一点,开发者就会突然从有效地看护智能体转变为让它运行几分钟、几小时或更长时间,"他说。"这就是巨大的生产力释放。"
Q&A
Q1:NanoClaw是什么?它如何提升AI智能体的安全性?
A:NanoClaw是一个开源智能体平台,旨在解决OpenClaw的安全漏洞问题。它通过在容器内运行来提供比本地机器更高的安全性,现在还能在Docker Sandbox这种微虚拟机中运行,实现与宿主系统的完全隔离,提供两层深度的安全边界。
Q2:Docker Sandbox与普通容器有什么区别?
A:容器是共享内核上的隔离进程,而Docker Sandbox是微虚拟机,拥有自己专用的内核和硬件空间,实现真正的隔离。这使得Sandbox比普通容器更安全,能够防止智能体接触宿主机器,即使出现幻觉或行为异常也不会造成系统性风险。
Q3:为什么需要对AI智能体进行安全隔离?
A:AI智能体具有非确定性特性,与计算机的确定性特性相冲突。智能体可能会生成各种代码、安装软件包、修改文件系统,甚至可能擦除文件系统。通过Docker Sandbox的隔离机制,可以让开发者安全地让智能体自动运行更长时间,而不需要持续监督。
原创文章,作者:胡佳慧,如若转载,请注明出处:http://m.gaochengzhenxuan.com/resou/11341.html