← 返回首页

人工智能基础设施

OpenShell:为自主AI代理提供安全运行时

本文使用星期天AI中转站大模型,基于 Hacker News 内容自动生成。

OpenShell如何约束自主AI代理

OpenShell是NVIDIA推出的自主AI代理运行时,目标是让代理能够读取文件、安装软件包、调用API并使用受控凭证,同时避免获得对主机数据、密钥或网络的 unrestricted access。用户通过策略声明代理可以接触的资源,运行时再执行这些限制。

内核隔离与策略审查

每个代理运行在隔离沙箱中,OpenShell在运行时约束文件访问、系统调用和网络连接。真实凭证不会直接暴露给代理,而是仅附加到发往获准端点的请求。策略变更在应用前还会经过形式化验证,用于标记新增主机、API方法或凭证访问,并将高风险变化交由人工审核。

部署价值与现实限制

这套设计把代理安全从单次提示约束推进到运行时控制,适合需要管理多代理、网络访问和敏感凭证的团队。项目提供命令行工具、网关、Python、TypeScript、Go和Rust SDK,并支持通过Helm部署网关。当前前提包括Linux、Apple Silicon上的macOS,或实验性的WSL 2,以及Docker、Podman或主机虚拟化环境。

重要的开放问题是策略是否能覆盖组织真实工作流中的所有边界情况。形式化验证可以帮助审查策略变化,但不能替团队判断代理是否应该访问某项业务数据,也不能替代沙箱、网络策略和依赖材料的安全评估。OpenShell按Apache 2.0许可发布,并收集可关闭的匿名运营遥测;使用者仍需自行核查外部材料的安全性、许可和适用性。