搜「AI 操控电脑」,你会同时看到三个名字:Claude Code、OpenAI Computer Use、以及社区里常说的 Computer 项目(computer-use-mcp)。它们都能让 AI 像人一样点按钮、填表单、操作应用——但很多人把它们当成同一件事,选型时就会踩坑。
本文用一张关系图 + 对比表,把三者的分层、边界和选型路径说清楚。
一句话关系图
| 名称 | 它是什么 | 谁在用 |
|---|---|---|
| Claude Code | Anthropic 的终端编程 Agent(产品) | 开发者在本地终端写代码、跑命令 |
| OpenAI Computer Use | OpenAI 的 API 级 GUI 操控能力(CUA 模型 + computer 工具) |
开发者自建 harness,或 ChatGPT Operator 用户 |
| Computer 项目 | GitHub 上的 computer-use-mcp 开源生态(MCP 服务器) |
任何支持 MCP 的 Agent:Cursor、Cline、Codex CLI… |
关系总结:三者解决同一个问题——「AI 如何操作电脑界面」——但处在不同层:
- Claude Code 消费 computer use(内置
computer-useMCP) - OpenAI Computer Use 提供 computer use(API 原语 + Operator 产品)
- Computer 项目 标准化 computer use(开放 MCP,不绑单一厂商)
computer-use 的内置 MCP 服务器;GitHub 上也有叫 computer-use-mcp 的开源仓库——名字相似,不是同一个项目。前者是 Anthropic 官方集成,后者是社区实现的开放协议服务器。
Claude Code:终端 Agent + 内置桌面操控
Claude Code 是 Anthropic 推出的命令行编程 Agent:在本地终端运行,能读仓库、执行 shell、改文件、调 MCP 工具。2025–2026 年它进一步集成了 Computer Use——让 Claude 不只会写代码,还能打开 macOS 应用、点击界面、输入文字、看屏幕。
内置 computer-use MCP
在 Claude Code 交互会话中执行 /mcp,找到 computer-use 并启用。首次使用需授予 macOS 两项权限:
- 辅助功能(Accessibility):点击、输入、滚动
- 屏幕录制(Screen Recording):读取屏幕内容
启用后,你可以在同一段对话里完成「写 Swift 代码 → 编译 → 启动 App → 点遍每个按钮验证」——代码与 GUI 操作不切换工具。
关键限制(2026 年 8 月)
| 限制项 | 说明 |
|---|---|
| 平台 | 研究预览,主要面向 macOS(Cowork 桌面端也支持 Windows) |
| 套餐 | Pro / Max 个人版;Team / Enterprise 暂不可用 |
| 模式 | 仅交互式会话;-p 非交互模式不可用 |
| 账号 | 需 claude.ai 认证;Bedrock / Vertex 等第三方通道不支持 |
| 安全 | 无沙箱,直接操作真实桌面,需人工确认敏感操作 |
与 Playwright 的分工
Claude Code 同时支持 Playwright MCP(结构化浏览器自动化)和 computer-use(像素级桌面操控)。经验法则:
- 有 DOM、可脚本化的 Web 流程 → Playwright 更稳
- 原生 App、无 API 的 GUI → computer-use
- E2E 测试 + 视觉回归 → Playwright 优先
更多 Agent 工作流配置可参考 Claude Code Skills 模板大全。
OpenAI Computer Use:API 原语 + Operator 产品
OpenAI Computer Use(内部模型称 CUA,Computer Using Agent)是 OpenAI 的 GUI 操控能力:模型看截图,返回结构化动作(点击坐标、输入文字、滚动、等待),由你的代码在本地或云端执行,再把新截图喂回模型——形成「观察 → 决策 → 执行 → 再观察」循环。
两条交付路径
1. 面向终端用户:Operator
2025 年 OpenAI 发布 Operator(operator.chatgpt.com),由 CUA 驱动,可代用户在网页上完成任务。这是成品 Agent 产品,类似 Claude Cowork 的网页操控能力。
2. 面向开发者:Responses API computer 工具
开发者通过 API 启用 computer 工具,自建 harness:
用户任务 → API(带 computer 工具)→ 返回 computer_call
→ 本地执行 click/type/scroll → 截新图 → computer_call_output → 循环
官方示例仓库 openai/openai-cua-sample-app 提供 native(直接 computer 工具)和 code(Playwright REPL)两种模式。GPT-5.4 及后续模型针对这类工作流做了专门训练。
三种集成形态(API 文档 2026)
| 形态 | 适用场景 |
|---|---|
| 内置 computer 循环 | 快速验证,模型直接返回 UI 动作 |
| 自定义 harness | 已有 Playwright / Selenium / VNC / MCP 基础设施 |
| 代码执行 harness | 模型写短脚本,在运行时混合 DOM 操作与视觉交互 |
与 Claude Code 的本质差异
| 维度 | Claude Code + computer-use | OpenAI Computer Use API |
|---|---|---|
| 定位 | 开箱即用的终端 Agent | 可嵌入任意产品的 API 能力 |
| 执行环境 | 用户本机 macOS | 开发者自建的浏览器/桌面环境 |
| 集成成本 | /mcp 一键启用 |
需实现完整 screenshot-action 循环 |
| 跨平台 | macOS 为主 | harness 决定(可 Windows/Linux) |
| 安全模型 | 用户授权 + 确认提示 | pending_safety_checks 需代码层 ack |
OpenAI Codex(云端沙箱编程 Agent)的浏览器能力以网页搜索/读文档为主,不等同于完整的 Computer Use GUI 操控——这是很多人混淆的第二处坑。
Computer 项目:MCP 开源生态
中文社区说的 「Computer 项目」,通常不是某一家公司的单一仓库,而是 GitHub 上以 computer-use-mcp 为关键词的开源 MCP 服务器家族——把「截图 + 鼠标键盘 + 窗口管理」封装成标准 MCP 工具,让任意 Agent 都能调用。
为什么需要开源 Computer 项目?
Claude Code 内置的 computer-use 好用,但有绑定:
- 仅 Anthropic 生态(Claude Code / Cowork)
- macOS 权限模型、套餐限制
- 无法自托管或魔改工具集
开源 computer-use-mcp 填补的是 「Agent 无关 + 协议开放」 的空位。
代表性项目(2026)
| 项目 | 特点 | 适合谁 |
|---|---|---|
| minghinmatthewlam/computer-use-mcp | Swift 单二进制,后台安全输入,不抢光标 | macOS 上多 Agent 共用(Cursor + Claude Code) |
| kanishka089/computer-use-mcp(realhands) | 驱动真实鼠标键盘,参考 Anthropic tool schema | 需要「真手」级桌面操控的 Windows 用户 |
| syedazharmbnr1/computer-use-mcp | 33 个工具,10 类能力,支持 Ollama 本地模型 | 想接本地 LLM 的隐私敏感场景 |
| aerocristobal/MCP-MacOSControl | 74 个 Swift 工具,含 OCR、无障碍树、iPhone 镜像 | 需要结构化 UI 树而非纯像素的 macOS 自动化 |
接入方式(以 Claude Code 为例)
# 示例:添加社区 computer-use-mcp
claude mcp add computer-use -- computer-use-mcp serve
Cursor、Cline、Windsurf 等则在 mcp.json 或设置面板里配置同样的 stdio 命令。工具名会变成 mcp__computer-use__* 或项目自定义前缀。
computer-use 给官方服务器;部分社区项目需注册为 realhands 等其他名称,避免与内置服务冲突。
三者如何协作(或竞争)
用「堆栈」视角看最清晰:
┌─────────────────────────────────────────────────────┐
│ 应用层:Claude Code / Operator / Cursor / 自研 Bot │
├─────────────────────────────────────────────────────┤
│ 协议层:MCP(computer-use-mcp 开源)/ 自定义工具 │
├─────────────────────────────────────────────────────┤
│ 能力层:截图 · 点击 · 输入 · 窗口管理 · OCR │
├─────────────────────────────────────────────────────┤
│ 模型层:Claude Sonnet/Opus · GPT-5.4 CUA · 本地 LLM │
└─────────────────────────────────────────────────────┘
- Claude Code 占满「应用层 + 官方协议层」(内置 MCP),模型用 Claude
- OpenAI Computer Use 占「模型层 + API 契约」,应用层由你搭建
- Computer 项目 占「协议层 + 能力层」,模型和 Agent 可自由替换
2026 年的收敛趋势:两边都在加强 MCP 生态对接(Claude Code 原生 MCP;OpenAI 文档推荐把 Playwright/MCP harness 作为 computer 工具的替代实现),长期看协议层会趋同,竞争集中在模型质量与产品体验。
选型决策树
场景 A:个人开发者,macOS,主要写代码偶尔点界面
→ Claude Code + 内置 computer-use(零 harness 代码)
场景 B:要做 SaaS 产品,用户可能在 Windows/Linux
→ OpenAI Computer Use API + Playwright harness,或纯 Playwright tool calling
场景 C:团队混用 Cursor + Claude Code + 本地模型
→ 部署一个 computer-use-mcp 实例,全员共用同一套桌面工具
场景 D:CI/CD、无头环境、纯 Web
→ Playwright / Puppeteer,不必上像素级 Computer Use
场景 E:安全合规要求高,代码不能出本机
→ Claude Code 本地执行 或 开源 MCP + 本地 Ollama,避开云端沙箱克隆仓库
| 需求 | 推荐路线 | 不推荐 |
|---|---|---|
| 终端里改代码并点 Xcode 验证 | Claude Code computer-use | OpenAI API(需自建 macOS harness) |
| 批量网页填表爬虫 | Playwright MCP | 像素级 computer use |
| 跨编辑器统一桌面工具 | computer-use-mcp 开源 | 仅开 Claude 内置(Cursor 用不了) |
| 快速体验「AI 帮我订机票」 | Operator 或 Cowork | 自己从零写 CUA 循环 |
与 AI 编程工具大盘的关系
Computer Use 不是孤立功能——它是 Agent 工具链 的一环,和 Skills、MCP、Rules 并列:
| 机制 | 作用 | 与 Computer Use 的关系 |
|---|---|---|
| Skills | 教 Agent「怎么做某类任务」 | 可写 Skill 指导何时启用 computer-use vs Playwright |
| MCP | 接外部工具 | computer-use 本身就是一种 MCP 服务器 |
| Rules | 持久约束 | 可禁止 Agent 在未确认时操作银行/邮件等敏感 App |
如果你在对比 Cursor、Windsurf、Claude Code 谁更适合 Agent 工作流,建议结合 Cursor 替代工具横评 一起看——IDE 选谁,决定你用什么方式接 MCP;Computer Use 选谁,决定 GUI 操控走官方还是开源。
入门 Agent 体系可参考 AI Agent 学习路线 2026。
macOS 是 Computer Use 的主战场
无论走 Claude Code 内置路线还是开源 MCP,macOS 都是当前体验最完整的平台:辅助功能 API、Screen Recording、Swift 原生 MCP 服务器、Xcode 生态。Anthropic 和多个开源项目都优先支持 macOS;Windows 方案(如 realhands)仍在快速迭代。
如果你需要在云端获得完整 macOS 桌面来跑 Computer Use——例如远程验证 iOS App、或让 Agent 在隔离环境中操作 GUI——Kvmzen Mac 云租用 提供独享 Mac mini M4,按月计费,与 Claude Code、computer-use-mcp 均可配合使用。
