最近用了挺长一段时间 ChatGPT,我越来越觉得,Codex 的 CUA 能力特别好用。它能直接操作电脑上的应用和网页,把打开软件、查找资料、填写内容这些步骤接起来做完。我人在外面、开车赶路的时候,电脑前的待办也不会停下来。EB-1A 的表格要填,员工培训的页面要处理。我开始把资料整理、表单填写和界面操作交给 Codex,等它准备好再回来检查。
这些经历让我突发奇想。我能不能买一台 Mac mini,把自己日常用的软件都装上,让 ChatGPT 替我操作它们? 工作消息来了,它去看。需要填写资料,它去找文件。有一项研发任务,它去调度其他 agent。ChatGPT 和 Mac mini 就像包在我外面的一层壳,替我接住生活中不断涌来的事情。我还在中间表达自己的想法,这层壳负责把想法变成电脑上的动作。
Mac mini 常驻运行。我从手机或 MacBook 连过去,直接和 GPT 的主 agent 沟通。点图可以放大。
我怎么把这套系统搭起来
第一步,装 OneDrive,让我们共用一份资料
我和 agent 要能找到同一份文件。填一张表可能要用到护照、旧表格和律师邮件里的附件,做一个项目也要翻之前的论文、文档和代码。如果每次都要我把文件找出来再传一遍,事情还是会回到我手上。
所以我先在 Mac mini 上装了 OneDrive,把常用资料按目录同步过去。这样我更新了材料,agent 可以在 mini 上沿着同样的目录找,不用每次从头交代文件放在哪里。
第二步,装好每天会用的 App
有了资料,下一步是让它有地方办事。我装了 Outlook、Slack、微信和短信,用来看邮件和消息。Word、PowerPoint 和 Chrome 用来处理文档、演示和网页。日历、Robinhood 这些平时会打开的软件,也放到同一台 mini 上。账号登好之后,我就能让 Codex 打开需要的 App,找到对应的消息或表单,接着做下一步。
我直接和 GPT 的主 agent 说要做什么、哪件事先做,以及结果哪里要改。能通过 MCP 查到资料的任务就用接口,需要点窗口、填表或看界面的任务就用 CUA。比如律师来邮件要补材料,主 agent 可以先读邮件,再去 OneDrive 找文件,最后把表格或回复草稿准备好。
第三步,装上 Loom,把研发任务拆开
研发任务往往要改代码、跑测试,几个任务还可能同时进行。我用自己做的 Loom 管理 Claude Code、Codex 和 Cursor。每个项目下面可以建多个 task,各有自己的终端、PLAN.md、Git 分支和 worktree。任务的目标、改动和检查结果都留在原处,下次打开就能接着做。Loom 项目
点图可以放大。Loom GitHub README
比如老板在 Slack 上提了一个需求,主 agent 可以先结合项目上下文弄清楚要改什么,再通过 Loom 的 MCP 工具创建或找到对应的 task,交给子 agent 在自己的 worktree 里做。一个子 agent 跑测试时,另一个还能推进别的代码任务。需要 GPU 的计算,就从 mini 连到 GPU 集群执行。
第四步,从 MacBook 和手机连回 Mac mini
我让 Mac mini 常驻运行。出门时,我通过 Remote Control 继续 mini 上的 Codex 对话,也能打开 Loom 看研发任务的进度。签证材料、保险、论文宣传等长期事项各放在自己的任务里。下次遇到同一件事,我就回到原来的任务,接着用之前的资料和讨论。

我换设备时,可以回到原来的任务继续。
搭起来之后踩的坑
SSH 能跑命令,CUA 却受限
一开始我以为,能用 SSH 连到 mini,就能让 Codex 照常操作上面的 App。实际用下来,ChatGPT 通过 SSH 在 mini 上启动 Codex 服务,命令在远端用户的 shell 里跑。git status 有返回,只说明终端通了。到了要在 Outlook 里点开一封邮件时,Codex 还得能看到窗口,并用上主机桌面版配置好的 Computer Use。在我的配置里,通过 SSH 打开的远程项目能访问文件和终端,桌面 CUA 却会受限。
要让 Codex 在 Mac mini 上填表、点 Outlook 或操作其他桌面 App,我一定用 Remote Control。 它接回 mini 上运行的 ChatGPT 桌面版,让 Codex 在那台机器的桌面环境里继续。纯终端和代码任务用 SSH 就够了。OpenAI 远程连接文档
跑到一半,经常要我回来验证
桌面任务经常卡在要我亲自处理的那一步。比如网站弹出登录验证,或者 ChatGPT 暂停下来等我批准一个动作。前面的资料都找齐了,表也填了一半,这一步没过,后面的流程就得等。对话里的动作审批可以在手机上处理,网站的验证还得回到原页面。我希望它停在当前页面,告诉我哪个 App、哪一步需要我确认。我处理完,它就能从那里接着做。
邮件也有类似的交接。主 agent 可以先把资料找齐、把回复写好,我看完再让它改口吻或补重点。正式回复由我自己点发送。
两个 CUA 同时跑,容易互相打架
两个对话看起来各做各的,但它们可能在操作同一个 App。比如一个任务正在 Chrome 里填表,另一个任务切到同一个浏览器窗口里查资料。第一个任务再看屏幕,原来的页面和焦点都可能变了,下一步就容易点错。
所以要动同一个 App 的 CUA 任务,我会一个一个跑。能走终端、MCP 或独立 worktree 的任务,可以继续并行。OpenAI Computer Use 使用指南
我希望能在 ChatGPT 里直接看远程 Mac 的桌面
我在外面能从手机继续对话、看任务进度和 Codex 返回的截图。可任务停在一个弹窗时,我更想直接看到 mini 此刻的完整桌面。弹窗挡住了什么,哪个窗口还开着,验证做到哪一步,看一眼比来回问快得多。OpenAI 远程连接文档
我希望 ChatGPT 的云端界面能直接打开已连接的 Mac 桌面。需要我验证时,我可以在这里看清界面,接手处理那一步,然后把任务交还给 Codex 继续。
结论
这套系统现在最有用的地方,是我不在电脑前时,事情也能往前推。等我回来,资料已经找齐,表格填到了可以检查的地方,邮件有了草稿,研发任务也有各自的进展。登录验证、关键审批和对外发送还要我接手。如果远程桌面的查看和交接能更顺畅,这台 mini 就能替我把更多事情从头做到尾。
