NVIDIA AI 官推最近发了一条推文,语气轻松得像是在招呼大家去公园散步:

"这是你的周末项目。"

配图是一份教程链接,教你如何构建一个完全本地化、沙盒隔离的 AI 助手。听起来很美好,对吧?

AI配图

但当你点开教程,看到 120B 参数的大模型87GB 的下载量,以及那台名为 DGX Spark 的硬件设备时,你可能会怀疑,NVIDIA 对“周末”这个词是不是有什么误解?

这不是拼乐高,这是在造火箭。

隐私焦虑下的“全本地”方案

Agent(智能体)正在进化。

以前它们只能陪你聊两句天,现在它们能读文件、调 API、甚至执行多步工作流。但问题来了:让一个 AI 在你的电脑上跑代码,甚至动你的钱包,你敢吗?

尤其是当这一切还要经过第三方云端服务器时,数据隐私和控制权就成了悬在头顶的达摩克利斯之剑。

NVIDIA 抛出的方案叫 NemoClaw

这是一个开源参考堆栈,核心卖点就两个字:本地

它通过 OpenShell 运行 OpenClaw,把所有东西都锁在你的硬件里。简单说,就是给你造了一个“铁笼子”,AI 在笼子里干活,数据不出笼子,也不依赖外部服务。

这就解决了最让人头疼的安全问题——至少理论上如此。

给 AI 造个“铁笼子”

这个“铁笼子”怎么造?教程给出了详细的蓝图。

整个架构由几个关键组件拼凑而成:

  • NVIDIA OpenShell负责当保安。它是安全运行时和网关,负责建立沙盒边界,管理凭证,代理网络请求。
  • OpenClaw负责干活的工人。它是一个多通道 Agent 框架,住在沙盒里,负责连接 Slack、Discord 等聊天平台。
  • NVIDIA Nemotron 3 Super 120B负责动脑子。这是一个 1200 亿参数的大模型,专门优化过指令遵循和多步推理。

AI配图

这套组合拳的逻辑很清晰:大模型提供智力,OpenClaw 执行任务,OpenShell 负责安全隔离。

有意思的是它的安全机制。

默认情况下,沙盒会限制 Agent 的网络访问。如果 Agent 想访问某个外部网址,OpenShell 会直接拦截。你得在终端里手动批准,或者修改策略预设。

这就像养了一只极其聪明的狗,它想出门得先经过你同意,防止它出去乱咬人。

硬核的“周末作业”

理想很丰满,实操很骨感。

虽然 NVIDIA 说这是“周末项目”,但看看前置条件,普通玩家可能得先劝退。

首先,你得有一台 DGX Spark (GB10) 系统,跑着 Ubuntu 24.04。评论区有人调侃:“有更好的方式花掉这 5000 美元,但我确实想搞一台。” 这暗示了硬件成本不菲。

然后,你得配置 Docker、NVIDIA Container Runtime,还得把 Ollama 装好。

最刺激的是下载模型。

87GB。

教程里写得明明白白:下载大约需要 15-30 分钟(取决于网速)。这还是在你网速给力的情况下。下载完还得预加载权重到 GPU 内存,不然第一次对话能让你等到睡着。

而且,推理速度并不快。教程提到,120B 模型本地推理,一次响应通常需要 30 到 90 秒

这速度,确实够你喝杯咖啡再回来。

连上 Telegram,变身“特工”设备

硬件搞定、模型跑起来后,好玩的部分来了。

你可以把这个本地 Agent 接入 Telegram

通过 BotFather 创建一个 Bot,获取 Token,然后在 NemoClaw 的引导向导里配置好。这样,你就能在任何有 Telegram 的地方,远程指挥家里的 DGX Spark 干活。

所有的推理都在本地发生,没有数据离开设备,运行时也没有外部服务依赖。

这感觉有点像电影里的特工:拿着一个不起眼的通讯器,背后却是一个庞大的本地算力中心在支撑。

而且,因为有了 OpenShell 的沙盒机制,你不用担心这个远程 Agent 突然发疯去删你的系统文件,或者把你的私钥传到公网上。

谁才是真正的赢家?

教程发出来后,评论区比教程本身更精彩。

一位名叫 @AIishhy 的网友一针见血地指出:

“NVIDIA 造了芯片、框架、教程,甚至 Agent 堆栈,然后管这叫‘你的项目’。致敬。”

AI配图

这话听着扎心,却是事实。

从芯片(DGX Spark)到推理引擎,再到模型和 Agent 框架,NVIDIA 把整条产业链全吃透了。开发者看似在“构建自己的 Agent”,实则是在 NVIDIA 划定的跑道上跑步。

还有人指出,这根本不是什么“周末项目”,对大多数人来说,这简直就是一份全职工作。沙盒化带来的性能损耗也是个谜。

当然,也有硬核玩家表示,自己在 VPS 上用 OpenClaw 搭建了类似系统,配合定时任务和自动化工具,“效果震撼”。

锐评:

NVIDIA 这波操作名为开源教程,实为硬件带货,顺带秀了一把全栈肌肉。这哪是给普通人的“周末项目”,分明是给极客和企业的“入场券”。

参考链接:
https://x.com/NVIDIAAI/status/2045253712130503118