NVIDIA AI 官推最近发了一条推文,语气轻松得像是在招呼大家去公园散步:
"这是你的周末项目。"
配图是一份教程链接,教你如何构建一个完全本地化、沙盒隔离的 AI 助手。听起来很美好,对吧?
但当你点开教程,看到 120B 参数的大模型、87GB 的下载量,以及那台名为 DGX Spark 的硬件设备时,你可能会怀疑,NVIDIA 对“周末”这个词是不是有什么误解?
这不是拼乐高,这是在造火箭。
隐私焦虑下的“全本地”方案
Agent(智能体)正在进化。
以前它们只能陪你聊两句天,现在它们能读文件、调 API、甚至执行多步工作流。但问题来了:让一个 AI 在你的电脑上跑代码,甚至动你的钱包,你敢吗?
尤其是当这一切还要经过第三方云端服务器时,数据隐私和控制权就成了悬在头顶的达摩克利斯之剑。
NVIDIA 抛出的方案叫 NemoClaw。
这是一个开源参考堆栈,核心卖点就两个字:本地。
它通过 OpenShell 运行 OpenClaw,把所有东西都锁在你的硬件里。简单说,就是给你造了一个“铁笼子”,AI 在笼子里干活,数据不出笼子,也不依赖外部服务。
这就解决了最让人头疼的安全问题——至少理论上如此。
给 AI 造个“铁笼子”
这个“铁笼子”怎么造?教程给出了详细的蓝图。
整个架构由几个关键组件拼凑而成:
- NVIDIA OpenShell:负责当保安。它是安全运行时和网关,负责建立沙盒边界,管理凭证,代理网络请求。
- OpenClaw:负责干活的工人。它是一个多通道 Agent 框架,住在沙盒里,负责连接 Slack、Discord 等聊天平台。
- NVIDIA Nemotron 3 Super 120B:负责动脑子。这是一个 1200 亿参数的大模型,专门优化过指令遵循和多步推理。
这套组合拳的逻辑很清晰:大模型提供智力,OpenClaw 执行任务,OpenShell 负责安全隔离。
有意思的是它的安全机制。
默认情况下,沙盒会限制 Agent 的网络访问。如果 Agent 想访问某个外部网址,OpenShell 会直接拦截。你得在终端里手动批准,或者修改策略预设。
这就像养了一只极其聪明的狗,它想出门得先经过你同意,防止它出去乱咬人。
硬核的“周末作业”
理想很丰满,实操很骨感。
虽然 NVIDIA 说这是“周末项目”,但看看前置条件,普通玩家可能得先劝退。
首先,你得有一台 DGX Spark (GB10) 系统,跑着 Ubuntu 24.04。评论区有人调侃:“有更好的方式花掉这 5000 美元,但我确实想搞一台。” 这暗示了硬件成本不菲。
然后,你得配置 Docker、NVIDIA Container Runtime,还得把 Ollama 装好。
最刺激的是下载模型。
87GB。
教程里写得明明白白:下载大约需要 15-30 分钟(取决于网速)。这还是在你网速给力的情况下。下载完还得预加载权重到 GPU 内存,不然第一次对话能让你等到睡着。
而且,推理速度并不快。教程提到,120B 模型本地推理,一次响应通常需要 30 到 90 秒。
这速度,确实够你喝杯咖啡再回来。
连上 Telegram,变身“特工”设备
硬件搞定、模型跑起来后,好玩的部分来了。
你可以把这个本地 Agent 接入 Telegram。
通过 BotFather 创建一个 Bot,获取 Token,然后在 NemoClaw 的引导向导里配置好。这样,你就能在任何有 Telegram 的地方,远程指挥家里的 DGX Spark 干活。
所有的推理都在本地发生,没有数据离开设备,运行时也没有外部服务依赖。
这感觉有点像电影里的特工:拿着一个不起眼的通讯器,背后却是一个庞大的本地算力中心在支撑。
而且,因为有了 OpenShell 的沙盒机制,你不用担心这个远程 Agent 突然发疯去删你的系统文件,或者把你的私钥传到公网上。
谁才是真正的赢家?
教程发出来后,评论区比教程本身更精彩。
一位名叫 @AIishhy 的网友一针见血地指出:
“NVIDIA 造了芯片、框架、教程,甚至 Agent 堆栈,然后管这叫‘你的项目’。致敬。”
这话听着扎心,却是事实。
从芯片(DGX Spark)到推理引擎,再到模型和 Agent 框架,NVIDIA 把整条产业链全吃透了。开发者看似在“构建自己的 Agent”,实则是在 NVIDIA 划定的跑道上跑步。
还有人指出,这根本不是什么“周末项目”,对大多数人来说,这简直就是一份全职工作。沙盒化带来的性能损耗也是个谜。
当然,也有硬核玩家表示,自己在 VPS 上用 OpenClaw 搭建了类似系统,配合定时任务和自动化工具,“效果震撼”。
锐评:
NVIDIA 这波操作名为开源教程,实为硬件带货,顺带秀了一把全栈肌肉。这哪是给普通人的“周末项目”,分明是给极客和企业的“入场券”。
参考链接:
https://x.com/NVIDIAAI/status/2045253712130503118