ABOUT THIS VIDEO
这一期,聊些什么? 本期 How I AI 请来 AI 创作者 Alex Finn(运营 Vibe Code Academy 社区),分享他用三台 512GB Mac Studio、DGX Spark 和 RTX 5090 自组电脑搭建的本地 AI 系统。他详解三类硬件的优劣取舍、如何用 Tailscale 加 OpenClaw 或 Hermes 智能体零技术门槛部署模型,以及让本地模型 24 小时做安全扫描、代码审查和社媒信号挖掘,再用 Claude Code 的构建循环与审查循环打造全自动软件工厂。他认为本地 AI 的价值不在省钱,而在解锁云端按量付费无法实现的无限算力使用场景。本页全程中文配音由阿里云通义千问 qwen3-tts-flash 生成(Claire Vo 为 Cherry 音色,Alex Finn 为 Andre 音色),并以低音量保留原视频声音作为背景。
RECAP · 图文回顾
看完再回顾:这一期讲了什么 点击任意时间戳,可跳到对应位置播放中文配音。
一句话核心观点
本地模型让个人也能拥有 7×24 小时不间断、用量不限的『环境 AI』:Alex Finn 用五六台电脑组成机群,由智能体自动分工,持续为他的生活和多条业务线干活。
分章节要点 00:00 开场:办公室里的『桑拿房』机群
Alex 的办公室堆着 3 台 512GB 的 Mac Studio、一台 DGX Spark,以及一台两天前刚围绕 RTX 5090 自组的主机,跑 AI 的电脑共五六台 00:03 因为开的机器太多,他笑称办公室『跟桑拿房似的』;这些 Mac Studio 如今转卖价约 3 万美元一台 03:13 一天里每时每刻,每台电脑都在烧 token、替他干活——这是本地 AI『无限量』的核心优势 03:51 04:28 红色药丸时刻:从 OpenClaw 走进本地 AI
今年 1 月的一个周五,Alex 在 X 上刷到一篇 OpenClaw 博文,凭直觉当天就买了台 Mac Mini 开始用 04:34 与智能体建立起个人联结后,他不想让它来自云端,而是『活在自己的电脑里』,于是升级到超大内存的 Mac Studio 跑本地模型 04:53 此后几个月,前沿模型 Fable 被封禁、硬件价格疯涨,他判断一切都在朝『主权化、拥有自己的智能』方向走,投入越来越大 05:39 07:22 硬件怎么选:Mac Studio、DGX Spark 与 RTX 5090
Mac Studio 靠统一内存取胜:512GB 内存全部可用于跑模型,他甚至在一台 Mac Studio 上跑出了 Opus 4.8 级别的 GLM 5.2;代价是带宽低、速度极慢,一次提问可能要等 5 分钟 08:26 DGX Spark 这类 AI 工作站是『甜点区』:128GB 统一内存 + NVIDIA CUDA 架构,内存和速度都不错,即插即用、无需显示器,价格约 4,000–4,600 美元 10:05 RTX 5090 是 4,000 美元的芯片,只有 32GB 显存但带宽极高,能在本地跑出云端级速度;Mac Mini、旧笔记本也能跑 Gemma 4 等小模型做嵌入等轻量任务 11:16 Claire 补充:旧电脑还可以用来把云端任务并行分摊到多台机器上,物尽其用 12:21 13:35 零技术基础部署:智能体当你的 IT 管理员
OpenClaw 和 Hermes 让本地部署『简单了一万亿倍』:以前找模型、对版本、算内存、架服务器等复杂流程,普通人根本搞不定 13:35 现在的做法是:所有设备装上 Tailscale 组成私有网络,然后对智能体说『看看我新买的 Mac Studio,选个合适的模型装上跑起来』,它会跨设备自动完成 14:21 哪怕只有一台电脑 Tailscale 也值得装——比如用手机的 localhost 直接测试电脑上的本地应用 15:32 17:17 机群控制台:7×24 小时烧 token 的正确姿势
回应『电脑太贵、ChatGPT 订阅才 20 美元』的质疑:1 万美元的 Mac Studio 相当于 11 年订阅费,但重点不是 ROI,而是它解锁的场景——云端模型这么跑会花掉离谱的钱 17:46 他搭了一个『舰队控制台(fleet dashboard)』,能看到所有电脑、各自在跑的模型,统筹它们全天候、全年无休的任务 18:47 机群的日常:每 30 分钟到 1 小时做一次安全扫描;每半小时做一次代码审查『去糙优化』;每 20 分钟扫一遍 Twitter、Reddit、Product Hunt、Hacker News 找需求信号 19:13 20:40 本地模型做『销售线索』,Claude Code 做『成交』
关键原则是分清界限:整个安全体系不能全交给本地模型,它们的智能还没到那一步 20:59 本地模型每天生成 markdown 安全报告(今天这份有 374 条发现),Claude Code 里再跑一个 /loop 24 小时循环,逐条核实指出的代码位置、判断是否真问题并修复 21:29 他打了个 SaaS 味的比方:本地模型像筛选线索的业务拓展代表,Claude Code 是负责收尾成交的人——若让 Claude Code 每 20 分钟循环扫描,一个月得花几千几千又几千美元 22:11 任务分配按强项来:聪明但慢的 GLM 5.2 做安全扫描(跑 24 小时也无所谓);没那么聪明的 Qwen 3.6 整天读推特和 Reddit 找信号 22:49 24:29 OpenClaw 与 Hermes 的坦诚对比
Alex 两个都用:就像 Claude Code 和 Codex,总有那么几天一个蠢得不行、另一个明显更聪明 24:37 OpenClaw 的稳定性让他却步:曾整整一个月每次更新都会崩,每次得花半小时修;Hermes 从没出过这种问题 24:51 但若两者都百分百可靠,他会选 OpenClaw——最惊艳的时刻都是它带来的;Claire 的总结很妙:OpenClaw 功能上不太行但住进了心里,Hermes 功能可靠却没打动心 25:10 两人都靠『智能体管智能体』做故障转移:Claire 有个不随大流升级的『救生员』OpenClaw 专职保活;Alex 跑 5 个智能体,随时有 3 个挂掉,但剩下 2 个能去修 25:47 26:55 软件工厂:构建循环、审查循环与火箭表情
早上他对 Claude 说『早上构建』,对话后为他的 SaaS——Henry Intelligent Machines 生成一堆任务 28:27 Claude Code 里跑两个循环:构建循环反复构建任务,审查循环派另一个智能体审查修复 28:48 审完后 Slack 上提醒他,他留个火箭表情即标记『已合并』,由 Henry 循环执行合并;每个成果还附带测试方法和 Vercel 预览站 29:07 他认为大家在网上对『循环』含糊其辞,是因为这套自动化产码的基础设施可能是模型公司『最后的护城河』 30:48 31:56 快问快答与在哪里找到 Alex
最爱硬件:在 Mac Studio(苹果全家桶整合好,他预测 10 年内苹果会内置本地模型)和 5090 之间纠结,最终因能全极致画质玩《赛博朋克 2077》选了 5090 32:07 最爱本地模型:新出的 Ornith 1.0(疑似在 Qwen 上做了强化学习、编码更强,他声明没调研过团队),Ornith 1.0 35B 已成为主力,DGX Spark 上就能跑;此前 5 个月一直用 Qwen 3.5/3.6 32:50 提示风格:他自嘲对犯蠢的智能体『挺狠』、威胁过很多次但没用;实际策略是一个犯傻就换另一个,等它自己恢复 34:09 找到他:YouTube 和 X 上搜 Alex Finn,社区叫 Vibe Code Academy;在做两个 SaaS——Creator Buddy(类似 Twitter 的操作系统)和即将推出的 Henry Intelligent Machines 34:52 关键人物 / 产品 / 数字 人物 Alex Finn 本期嘉宾,本地 AI/硬件玩家,用五六台电脑搭建 7×24 小时『环境 AI』机群,正在开发 SaaS 产品 Henry Intelligent Machines 和 Creator Buddy Claire Vo How I AI 主播,产品负责人;自己用一摞 Mac Mini 跑云端任务,并设了一个『救生员』OpenClaw 专职保住其他智能体 产品与概念 OpenClaw 个人智能体,Alex 的本地 AI『红色药丸』;惊艳时刻最多但稳定性欠佳,曾因更新连续一个月频繁崩溃 Hermes 另一款个人智能体,比 OpenClaw 稳定可靠得多,Alex 最近用得更多 Tailscale 在所有设备间建立私有网络的工具,让智能体能跨机器安装和配置模型,单机使用也值得装 Mac Studio(512GB) 靠统一内存跑超大模型(如 GLM 5.2),但内存带宽低、速度很慢;转卖价已炒到约 3 万美元一台 DGX Spark 即插即用的 AI 工作站,128GB 统一内存 + CUDA 架构,内存与速度均衡的『甜点区』,约 4,000–4,600 美元 RTX 5090 4,000 美元的 NVIDIA 显卡,仅 32GB 显存但带宽极高,本地跑出云端级速度,还能全极致画质玩《赛博朋克 2077》 GLM 5.2 / Qwen 3.6 / Ornith 1.0 Alex 按强项分配的本地模型:GLM 5.2 聪明但慢,做安全扫描;Qwen 3.6 读社媒找信号;Ornith 1.0 编码更强,是他的新主力 Claude Code 双循环 构建循环 + 审查循环组成的『软件工厂』,Slack 上一个火箭表情即可触发合并 Henry Intelligent Machines Alex 正在开发的 SaaS,本地模型每 30 分钟到 1 小时为它做一次安全扫描 Vibe Code Academy / Creator Buddy Alex 的社区和另一个 SaaS(类似 Twitter 的操作系统) 视频里提到的数字 3 台 / 512GB 00:03 Alex 拥有 3 台 512GB 的 Mac Studio $30,000 03:28 Mac Studio 如今的转卖价(每台) 五六台 03:42 办公室里跑 AI 的电脑总数 $4,600 / $4,000 10:09 DGX Spark 涨价后的价格 / Micro Center 售价 $4,000 / 32GB 11:16 RTX 5090 的价格与显存容量 5 分钟 09:49 在 Mac Studio 上向 GLM 5.2 提问后等回复的时间 $20 / $10,000 / 11 年 17:53 ChatGPT 订阅价 vs Mac Studio 价格:一台 Studio 相当于 11 年订阅费 30 分钟到 1 小时 / 半小时 / 20 分钟 19:31 本地模型分别执行安全扫描、代码审查、社媒信号扫描的间隔 374 条 21:41 当天安全报告中的安全问题发现数 5 个智能体 / 3 个挂掉 26:43 Alex 运行 5 个智能体(3 个 Hermes + 2 个 OpenClaw),随时约 3 个因各种原因宕机 金句摘录 · 中英对照 “Well, that's not the point. The point is in pure ROI. The point is the use cases it unlocks.” 这不是重点,重点是投资回报率(ROI),是它解锁的场景。
— Alex Finn 00:25 “You now have, because you have AI models running locally, the ability to run unlimited intelligence around the clock 24/7.” 因为模型在本地跑,你现在拥有了 7 天 24 小时不间断的无限智能。
— Alex Finn 00:32 “And so that was kind of my, I guess, red pill moment into local AI, was using OpenClau.” 可以说,OpenClaw 就是我进入本地 AI 的红色药丸时刻。
— Alex Finn 05:34 “I'm running GLM 5.2, which is Opus 4-8 level f- you know, intelligence on one Mac Studio right now, which is unbelievable.” 我现在一台 Mac Studio 上跑 GLM 5.2,智能达到 Opus 4.8 级别,简直不可思议。
— Alex Finn 09:27 “I'd be spending thousands and thousands and thousands of dollars a month.” (若让 Claude Code 干本地模型的活)我一个月得花几千几千又几千美元。
— Alex Finn 22:11 “a- at any given point of those five agents, like, three are always down for one reason or other.” 这五个智能体里,随时都有三个因为各种原因挂掉。
— Alex Finn 26:43 “... hurt their agent family. Doesn't work. They still fail.” (我威胁要)伤害它们的智能体家人。没用,它们照样出错。
— Alex Finn 34:30 可以借鉴的做法 / 启发 把本地模型当『筛线索的销售』、把前沿模型当『成交的 closers』:让便宜不限量的本地模型做高频初筛(扫描、监控、找信号),只把筛选后的结果交给 Claude Code 这类昂贵模型核实处理。 按『模型强项 × 硬件强项』分配任务:聪明但慢的模型干不赶时间的关键活(如安全扫描),快而普通的模型干简单的持续活(如读社媒找信号)。 用 Tailscale 把设备组成私有网络,再让 OpenClaw/Hermes 当 IT 管理员跨机器装模型——零技术基础也能搭起本地机群。 软件工厂的精髓是『人在关键节点点头』:构建循环、审查循环全自动跑完,人只需在 Slack 上留一个火箭表情批准合并。 关键智能体要做故障转移:多跑几个互为备份的智能体(或像 Claire 一样设一个不升级的『救生员』),保证总有活着的能去修挂掉的。 回顾 / 思考问题 Alex 说『重点不是 ROI,而是解锁的场景』——你有哪些只有 7×24 小时不限量智能才能解锁的场景? 如果按『筛线索 vs 成交』分工,你手头哪些任务可以交给本地小模型做初筛,再让前沿模型收尾? Mac Studio(大内存慢速)、DGX Spark(均衡)、RTX 5090(小显存高速)三条路线,哪条最适合你的负载? Alex 和 Claire 都靠『智能体管智能体』保活——你的自动化流程里,单点故障发生在哪里? 网上大家对『循环』含糊其辞,你认为这真是护城河,还是像 Claire 猜的那样——内容无聊或故弄玄虚更吸睛? 本回顾由 AI 根据英文逐字稿整理,时间戳、引文与数字已对照逐字稿核对;如有出入,以原视频为准。