DubSpeak好内容,无语言边界
首页/AI 工具/正在观看
AI 工具 · WATCH & LEARN

在家跑本地 AI:三台 Mac Studio、DGX Spark 和 RTX 5090 的实战指南

35 分钟346 段文稿在原平台观看 ↗

原频道:How I AI · 原标题:Local AI models explained: How to run a fleet of Mac Studios and GPUs at home · 原片上传:

在家跑本地 AI:三台 Mac Studio、DGX Spark 和 RTX 5090 的实战指南
0:00 / 35:50

画面来自 YouTube。若当前网络无法加载,可切换「仅听配音」。

ABOUT THIS VIDEO

这一期,聊些什么?

本期 How I AI 请来 AI 创作者 Alex Finn(运营 Vibe Code Academy 社区),分享他用三台 512GB Mac Studio、DGX Spark 和 RTX 5090 自组电脑搭建的本地 AI 系统。他详解三类硬件的优劣取舍、如何用 Tailscale 加 OpenClaw 或 Hermes 智能体零技术门槛部署模型,以及让本地模型 24 小时做安全扫描、代码审查和社媒信号挖掘,再用 Claude Code 的构建循环与审查循环打造全自动软件工厂。他认为本地 AI 的价值不在省钱,而在解锁云端按量付费无法实现的无限算力使用场景。本页全程中文配音由阿里云通义千问 qwen3-tts-flash 生成(Claire Vo 为 Cherry 音色,Alex Finn 为 Andre 音色),并以低音量保留原视频声音作为背景。

配音与字幕辅助理解,内容以原视频为准。在原平台观看 ↗
RECAP · 图文回顾

看完再回顾:这一期讲了什么

点击任意时间戳,可跳到对应位置播放中文配音。

一句话核心观点

本地模型让个人也能拥有 7×24 小时不间断、用量不限的『环境 AI』:Alex Finn 用五六台电脑组成机群,由智能体自动分工,持续为他的生活和多条业务线干活。

分章节要点
  1. 开场:办公室里的『桑拿房』机群
    • Alex 的办公室堆着 3 台 512GB 的 Mac Studio、一台 DGX Spark,以及一台两天前刚围绕 RTX 5090 自组的主机,跑 AI 的电脑共五六台
    • 因为开的机器太多,他笑称办公室『跟桑拿房似的』;这些 Mac Studio 如今转卖价约 3 万美元一台
    • 一天里每时每刻,每台电脑都在烧 token、替他干活——这是本地 AI『无限量』的核心优势
  2. 红色药丸时刻:从 OpenClaw 走进本地 AI
    • 今年 1 月的一个周五,Alex 在 X 上刷到一篇 OpenClaw 博文,凭直觉当天就买了台 Mac Mini 开始用
    • 与智能体建立起个人联结后,他不想让它来自云端,而是『活在自己的电脑里』,于是升级到超大内存的 Mac Studio 跑本地模型
    • 此后几个月,前沿模型 Fable 被封禁、硬件价格疯涨,他判断一切都在朝『主权化、拥有自己的智能』方向走,投入越来越大
  3. 硬件怎么选:Mac Studio、DGX Spark 与 RTX 5090
    • Mac Studio 靠统一内存取胜:512GB 内存全部可用于跑模型,他甚至在一台 Mac Studio 上跑出了 Opus 4.8 级别的 GLM 5.2;代价是带宽低、速度极慢,一次提问可能要等 5 分钟
    • DGX Spark 这类 AI 工作站是『甜点区』:128GB 统一内存 + NVIDIA CUDA 架构,内存和速度都不错,即插即用、无需显示器,价格约 4,000–4,600 美元
    • RTX 5090 是 4,000 美元的芯片,只有 32GB 显存但带宽极高,能在本地跑出云端级速度;Mac Mini、旧笔记本也能跑 Gemma 4 等小模型做嵌入等轻量任务
    • Claire 补充:旧电脑还可以用来把云端任务并行分摊到多台机器上,物尽其用
  4. 零技术基础部署:智能体当你的 IT 管理员
    • OpenClaw 和 Hermes 让本地部署『简单了一万亿倍』:以前找模型、对版本、算内存、架服务器等复杂流程,普通人根本搞不定
    • 现在的做法是:所有设备装上 Tailscale 组成私有网络,然后对智能体说『看看我新买的 Mac Studio,选个合适的模型装上跑起来』,它会跨设备自动完成
    • 哪怕只有一台电脑 Tailscale 也值得装——比如用手机的 localhost 直接测试电脑上的本地应用
  5. 机群控制台:7×24 小时烧 token 的正确姿势
    • 回应『电脑太贵、ChatGPT 订阅才 20 美元』的质疑:1 万美元的 Mac Studio 相当于 11 年订阅费,但重点不是 ROI,而是它解锁的场景——云端模型这么跑会花掉离谱的钱
    • 他搭了一个『舰队控制台(fleet dashboard)』,能看到所有电脑、各自在跑的模型,统筹它们全天候、全年无休的任务
    • 机群的日常:每 30 分钟到 1 小时做一次安全扫描;每半小时做一次代码审查『去糙优化』;每 20 分钟扫一遍 Twitter、Reddit、Product Hunt、Hacker News 找需求信号
  6. 本地模型做『销售线索』,Claude Code 做『成交』
    • 关键原则是分清界限:整个安全体系不能全交给本地模型,它们的智能还没到那一步
    • 本地模型每天生成 markdown 安全报告(今天这份有 374 条发现),Claude Code 里再跑一个 /loop 24 小时循环,逐条核实指出的代码位置、判断是否真问题并修复
    • 他打了个 SaaS 味的比方:本地模型像筛选线索的业务拓展代表,Claude Code 是负责收尾成交的人——若让 Claude Code 每 20 分钟循环扫描,一个月得花几千几千又几千美元
    • 任务分配按强项来:聪明但慢的 GLM 5.2 做安全扫描(跑 24 小时也无所谓);没那么聪明的 Qwen 3.6 整天读推特和 Reddit 找信号
  7. OpenClaw 与 Hermes 的坦诚对比
    • Alex 两个都用:就像 Claude Code 和 Codex,总有那么几天一个蠢得不行、另一个明显更聪明
    • OpenClaw 的稳定性让他却步:曾整整一个月每次更新都会崩,每次得花半小时修;Hermes 从没出过这种问题
    • 但若两者都百分百可靠,他会选 OpenClaw——最惊艳的时刻都是它带来的;Claire 的总结很妙:OpenClaw 功能上不太行但住进了心里,Hermes 功能可靠却没打动心
    • 两人都靠『智能体管智能体』做故障转移:Claire 有个不随大流升级的『救生员』OpenClaw 专职保活;Alex 跑 5 个智能体,随时有 3 个挂掉,但剩下 2 个能去修
  8. 软件工厂:构建循环、审查循环与火箭表情
    • 早上他对 Claude 说『早上构建』,对话后为他的 SaaS——Henry Intelligent Machines 生成一堆任务
    • Claude Code 里跑两个循环:构建循环反复构建任务,审查循环派另一个智能体审查修复
    • 审完后 Slack 上提醒他,他留个火箭表情即标记『已合并』,由 Henry 循环执行合并;每个成果还附带测试方法和 Vercel 预览站
    • 他认为大家在网上对『循环』含糊其辞,是因为这套自动化产码的基础设施可能是模型公司『最后的护城河』
  9. 快问快答与在哪里找到 Alex
    • 最爱硬件:在 Mac Studio(苹果全家桶整合好,他预测 10 年内苹果会内置本地模型)和 5090 之间纠结,最终因能全极致画质玩《赛博朋克 2077》选了 5090
    • 最爱本地模型:新出的 Ornith 1.0(疑似在 Qwen 上做了强化学习、编码更强,他声明没调研过团队),Ornith 1.0 35B 已成为主力,DGX Spark 上就能跑;此前 5 个月一直用 Qwen 3.5/3.6
    • 提示风格:他自嘲对犯蠢的智能体『挺狠』、威胁过很多次但没用;实际策略是一个犯傻就换另一个,等它自己恢复
    • 找到他:YouTube 和 X 上搜 Alex Finn,社区叫 Vibe Code Academy;在做两个 SaaS——Creator Buddy(类似 Twitter 的操作系统)和即将推出的 Henry Intelligent Machines
关键人物 / 产品 / 数字

人物

Alex Finn
本期嘉宾,本地 AI/硬件玩家,用五六台电脑搭建 7×24 小时『环境 AI』机群,正在开发 SaaS 产品 Henry Intelligent Machines 和 Creator Buddy
Claire Vo
How I AI 主播,产品负责人;自己用一摞 Mac Mini 跑云端任务,并设了一个『救生员』OpenClaw 专职保住其他智能体

产品与概念

OpenClaw
个人智能体,Alex 的本地 AI『红色药丸』;惊艳时刻最多但稳定性欠佳,曾因更新连续一个月频繁崩溃
Hermes
另一款个人智能体,比 OpenClaw 稳定可靠得多,Alex 最近用得更多
Tailscale
在所有设备间建立私有网络的工具,让智能体能跨机器安装和配置模型,单机使用也值得装
Mac Studio(512GB)
靠统一内存跑超大模型(如 GLM 5.2),但内存带宽低、速度很慢;转卖价已炒到约 3 万美元一台
DGX Spark
即插即用的 AI 工作站,128GB 统一内存 + CUDA 架构,内存与速度均衡的『甜点区』,约 4,000–4,600 美元
RTX 5090
4,000 美元的 NVIDIA 显卡,仅 32GB 显存但带宽极高,本地跑出云端级速度,还能全极致画质玩《赛博朋克 2077》
GLM 5.2 / Qwen 3.6 / Ornith 1.0
Alex 按强项分配的本地模型:GLM 5.2 聪明但慢,做安全扫描;Qwen 3.6 读社媒找信号;Ornith 1.0 编码更强,是他的新主力
Claude Code 双循环
构建循环 + 审查循环组成的『软件工厂』,Slack 上一个火箭表情即可触发合并
Henry Intelligent Machines
Alex 正在开发的 SaaS,本地模型每 30 分钟到 1 小时为它做一次安全扫描
Vibe Code Academy / Creator Buddy
Alex 的社区和另一个 SaaS(类似 Twitter 的操作系统)

视频里提到的数字

3 台 / 512GB
Alex 拥有 3 台 512GB 的 Mac Studio
$30,000
Mac Studio 如今的转卖价(每台)
五六台
办公室里跑 AI 的电脑总数
$4,600 / $4,000
DGX Spark 涨价后的价格 / Micro Center 售价
$4,000 / 32GB
RTX 5090 的价格与显存容量
5 分钟
在 Mac Studio 上向 GLM 5.2 提问后等回复的时间
$20 / $10,000 / 11 年
ChatGPT 订阅价 vs Mac Studio 价格:一台 Studio 相当于 11 年订阅费
30 分钟到 1 小时 / 半小时 / 20 分钟
本地模型分别执行安全扫描、代码审查、社媒信号扫描的间隔
374 条
当天安全报告中的安全问题发现数
5 个智能体 / 3 个挂掉
Alex 运行 5 个智能体(3 个 Hermes + 2 个 OpenClaw),随时约 3 个因各种原因宕机
金句摘录 · 中英对照
“Well, that's not the point. The point is in pure ROI. The point is the use cases it unlocks.”

这不是重点,重点是投资回报率(ROI),是它解锁的场景。

— Alex Finn
“You now have, because you have AI models running locally, the ability to run unlimited intelligence around the clock 24/7.”

因为模型在本地跑,你现在拥有了 7 天 24 小时不间断的无限智能。

— Alex Finn
“And so that was kind of my, I guess, red pill moment into local AI, was using OpenClau.”

可以说,OpenClaw 就是我进入本地 AI 的红色药丸时刻。

— Alex Finn
“I'm running GLM 5.2, which is Opus 4-8 level f- you know, intelligence on one Mac Studio right now, which is unbelievable.”

我现在一台 Mac Studio 上跑 GLM 5.2,智能达到 Opus 4.8 级别,简直不可思议。

— Alex Finn
“I'd be spending thousands and thousands and thousands of dollars a month.”

(若让 Claude Code 干本地模型的活)我一个月得花几千几千又几千美元。

— Alex Finn
“a- at any given point of those five agents, like, three are always down for one reason or other.”

这五个智能体里,随时都有三个因为各种原因挂掉。

— Alex Finn
“... hurt their agent family. Doesn't work. They still fail.”

(我威胁要)伤害它们的智能体家人。没用,它们照样出错。

— Alex Finn
可以借鉴的做法 / 启发
  1. 把本地模型当『筛线索的销售』、把前沿模型当『成交的 closers』:让便宜不限量的本地模型做高频初筛(扫描、监控、找信号),只把筛选后的结果交给 Claude Code 这类昂贵模型核实处理。
  2. 按『模型强项 × 硬件强项』分配任务:聪明但慢的模型干不赶时间的关键活(如安全扫描),快而普通的模型干简单的持续活(如读社媒找信号)。
  3. 用 Tailscale 把设备组成私有网络,再让 OpenClaw/Hermes 当 IT 管理员跨机器装模型——零技术基础也能搭起本地机群。
  4. 软件工厂的精髓是『人在关键节点点头』:构建循环、审查循环全自动跑完,人只需在 Slack 上留一个火箭表情批准合并。
  5. 关键智能体要做故障转移:多跑几个互为备份的智能体(或像 Claire 一样设一个不升级的『救生员』),保证总有活着的能去修挂掉的。
回顾 / 思考问题
  1. Alex 说『重点不是 ROI,而是解锁的场景』——你有哪些只有 7×24 小时不限量智能才能解锁的场景?
  2. 如果按『筛线索 vs 成交』分工,你手头哪些任务可以交给本地小模型做初筛,再让前沿模型收尾?
  3. Mac Studio(大内存慢速)、DGX Spark(均衡)、RTX 5090(小显存高速)三条路线,哪条最适合你的负载?
  4. Alex 和 Claire 都靠『智能体管智能体』保活——你的自动化流程里,单点故障发生在哪里?
  5. 网上大家对『循环』含糊其辞,你认为这真是护城河,还是像 Claire 猜的那样——内容无聊或故弄玄虚更吸睛?

本回顾由 AI 根据英文逐字稿整理,时间戳、引文与数字已对照逐字稿核对;如有出入,以原视频为准。

ACROSS TOPICS · 跨主题推荐

换个领域看看

ABOUT DubSpeak

让好内容,跨过语言的边界。

DubSpeak 整理科技、心理与医学领域的视频,提供中文配音、双语字幕及文稿辅助阅读,让知识更容易被听见、被理解。

01 / 用熟悉的语言听

中文配音辅助理解,部分视频支持中英文切换。

02 / 跟着字幕深入读

结合字幕与文稿学习,具体功能以播放页为准。

03 / 按兴趣找到内容

按主题浏览,搭配搜索和时长筛选。

04 / 回到内容的出处

每期注明原视频链接,版权归原作者所有。关于与版权 ↗