天度 AI 实战库浏览全部案例 ↗

使用 Claude 的鼠标和键盘控制电脑

作者测试了一天 Claude 的电脑操作功能:先截图、理解界面,再移动鼠标和输入文字。跨应用操作偏离任务和漏点小控件仍是问题。

具体怎么做
作者在 Mac 上让 Claude 运行了一天的电脑操作功能测试,期间 Claude 不断截取屏幕截图、理解用户界面,然后点击和输入以完成各项任务。他们让 Claude 重命名并整理了 40 多份文件,将 PDF 数据复制到 Numbers 表格中,重复填写了八次浏览器表单,并从五个标签页中整理笔记,在 Claude 迷失窗口或需要修正时进行干预。
做到了什么
在大约五分钟内就完成了所有40多种文件操作,虽然处理速度较慢,但数据输入准确;表单填写测试中仅有一处日期格式错误。作者估计简单任务的可信度约为80%,复杂任务为50%,在较长的多应用工作流中会出现无提示的失败情况,且对验证码、双重认证、速度敏感任务或风险性点击的处理也不佳。
上手要点
主要问题是它在运行时会占用整个 Mac 资源,因此作者认为最佳使用场景是启动任务后离开。

你可以这样试

使用 Claude computer use

使用我的桌面来完成此任务:[描述一个简单的任务,例如:将电子表格中的数据复制到另一个应用程序中的表单中]。每完成一步后请截图确认,如果某部分看起来不符合预期,请直接告诉我,不要猜测。在提交、发送或删除任何内容之前,请暂停并展示你即将进行的操作;当[最终结果]出现在屏幕上时,即为完成。