Skill Recorder:微软开源Agent 技能录制工具+使用教程,录制真实的电脑操作过程,一遍就能生成可复用 Skill

发布于 更新于
11
4

一句话介绍:Skill Recorder 可以录制真实的电脑操作过程,再通过 GitHub Copilot 分析操作意图与执行步骤,生成 AI Agent 可重复使用的 Skill 或 Automation。

阿喵前言

很多重复性工作并不复杂,真正麻烦的是:你得先把操作流程完整地教给 AI。

例如整理后台数据、填写固定表单、处理 GitHub Issue,或者在多个应用之间复制、核对信息。若手动编写提示词和操作说明,不仅耗时,还很容易遗漏细节。

微软开源的 Skill Recorder 提供了一种更直观的解决思路:

你亲自操作一遍,它负责观察、理解并整理成 AI Agent 可以复用的技能。

Skill Recorder 会记录操作过程中的应用切换、窗口变化、网页访问、画面内容和可选的语音讲解,再借助 GitHub Copilot CLI,将这段真实操作重构为明确的任务意图和有序步骤,最后生成标准化的 SKILL.md 或自动化流程。

它不是简单录制鼠标坐标并机械回放,而是尝试理解“你为什么这样做”,并优先让 Agent 使用 CLI、网页获取等原生工具完成任务,因此比传统按键精灵更有泛化潜力。

资源介绍

Skill Recorder 是微软开源的一款 Electron 桌面应用,核心用途是把一次真人操作转化为可复用的 Agent Skill。

其基本工作流程可以概括为:

  1. Record:录制操作启动录制后,正常完成一次工作任务。软件会在本地记录屏幕变化、应用与窗口切换等信息,也可以同步录制语音讲解。
  2. Analyze:分析过程完成录制后点击 Analyze,GitHub Copilot 会分析整个工作过程,提取任务的总体意图和按顺序排列的操作步骤。
  3. Review:人工校对用户可以检查、修改 AI 总结出的任务意图与步骤,避免识别错误被直接写入技能。
  4. Create:生成技能确认内容后,可以生成按需调用的 Skill,或者根据时间、事件触发的 Automation。

生成的 Skill 本质上是一份 SKILL.md 操作规范。相比只记录“点了哪里”,它会尽量总结任务中的判断逻辑和可变化参数。

举个例子:录制一次填写表单的过程,目标并不是让 Agent 永远填写相同内容,而是让它理解表单字段之间的对应关系,以后可以处理同类表单。

根据项目说明,生成结果可用于 Microsoft Scout、Microsoft Copilot Cowork 和 Copilot Studio 等 Agent 场景。项目采用 MIT 开源许可证。查看项目 README

截图

Skill Recorder 录制界面:

录制界面提供开始录制、计时、语音讲解、语言选择和麦克风设置等功能。

录制记录与 AI 分析界面:

左侧可以管理已经完成的录制,右侧则会显示 GitHub Copilot 重构出的任务意图与操作步骤。

特色

1. 操作一次,生成可复用 Skill

用户不必从零编写复杂的 Agent 指令,只需要完整演示一次任务,Skill Recorder 就能帮助提取步骤并生成技能文件。

这对于不熟悉提示词、Agent Skill 格式或自动化脚本的普通用户尤其友好。

2. 不只是机械回放鼠标操作

传统 RPA 或按键精灵通常依赖固定坐标、窗口位置和页面结构,界面稍有变化就可能失效。

Skill Recorder 更关注任务的实际意图。生成技能时,它会优先考虑 gh CLI、网页内容获取等 Agent 原生工具,而不是单纯回放点击动作,因此生成的流程更有机会适配相似任务。

3. 支持语音讲解

录制过程中可以一边操作,一边说明自己的判断逻辑,例如:

  • 为什么选择这个选项;
  • 哪些内容需要人工核对;
  • 出现异常时应该如何处理;
  • 哪些字段需要根据实际情况替换。

语音会在本地通过 Whisper 转写。首次使用该功能需要额外下载约 252MB 的模型,官方说明支持 Whisper 覆盖的 99 种语言。

4. 自动提取任务意图与步骤

录制完成后,GitHub Copilot 会将零散的操作过程整理为:

  • 一个明确的任务目标;
  • 一组有顺序的执行步骤;
  • 可供 Agent 调用的 Skill;
  • 可按计划或触发条件运行的 Automation。

生成前还可以人工审核和修改,减少错误流程被直接固化的问题。

5. 支持跨应用工作流

Skill Recorder 能记录活动应用、窗口切换、网页地址、屏幕变化及剪贴板预览,因此适合处理需要在多个软件之间流转的信息。

比较典型的应用场景包括:

  • 定期整理运营数据;
  • 重复填写后台表单;
  • 处理 GitHub Issue;
  • 将网页信息录入内部系统;
  • 制作固定格式的周报;
  • 演示企业内部标准操作流程;
  • 将个人经验沉淀为团队 Agent Skill。

6. 录制阶段以本地处理为主

官方说明显示,屏幕录制、数据存储、画面提取和可选的语音转写都会在本地进行。只有用户主动点击 Analyze 后,相关分析数据才会发送到 GitHub 云端,由 Copilot 进行处理。

7. 完全开源

项目源代码托管在 GitHub,并采用 MIT License。开发者可以研究其实现方式,也可以根据自己的需求进行二次开发。

注意

1. 必须拥有 GitHub Copilot 使用权限

虽然 Skill Recorder 本身是开源项目,但分析录制内容需要使用 GitHub Copilot CLI。

用户需要准备一个 GitHub 账号,并确保该账号拥有有效的 Copilot 权限。Copilot CLI 已随应用一起提供,不需要另外进行全局安装。

2. 不要录制密码和密钥

这一点非常重要。

录制过程中不要输入、展示、复制或口述以下内容:

  • 登录密码;
  • API Key;
  • Access Token;
  • 私钥和恢复码;
  • 企业内部机密;
  • 客户隐私数据;
  • 其他敏感凭证。

点击 Analyze 后,窗口标题、网页地址、剪贴板预览、提取的屏幕画面以及语音转写文本等数据会被发送到 GitHub 云端处理。

因此,录制前最好先退出密码管理器、关闭无关窗口,并准备好不包含真实凭证的测试账号。

3. 当前采用源码安装方式

Skill Recorder 目前发布的是 source-only release,没有直接提供普通用户常见的 .dmg.exe 或便携版安装包。

安装脚本会下载指定版本的源码、Node.js 运行环境及相关依赖,然后在本机完成构建。整个过程不需要全局安装 Node.js,但会比普通软件安装耗费更多时间和网络流量。

4. 平台支持存在差异

官方将 macOS 作为主要目标平台,同时支持:

  • macOS;
  • Windows 11 x64;
  • Windows 11 ARM64;
  • Ubuntu。

其中,浏览器 URL 捕获功能在项目说明中明确标注为 macOS 功能。不同平台的权限申请和功能表现可能会存在差异。

5. 生成结果仍需人工检查

AI 可以总结操作,却不一定能准确理解所有业务规则。

涉及付款、删除数据、发布内容、修改生产环境等高风险操作时,建议在生成的 Skill 中加入人工确认步骤,并在正式使用前用测试数据完整验证。

使用教程

第一步:检查使用条件

安装之前需要确认:

  • 已有 GitHub 账号;
  • 账号拥有 GitHub Copilot 权限;
  • 设备为 macOS、Windows 11 或 Ubuntu;
  • 网络能够访问 GitHub、Node.js 和 npm 相关服务;
  • 当前用户拥有屏幕录制等必要权限。

第二步:获取最新版本安装命令

进入项目的 Releases 页面,找到最新版本。

每个正式版本都会提供对应的完整 Commit SHA 和安装命令。建议直接复制发布页面给出的命令,不要将 Commit SHA 随意替换为 main、分支名或未经验证的标签。

截至 2026 年 8 月14 日,最新版本为 v0.5.0,对应 Commit 为:

c7f2fe4402527a0eb7f4fc1b653bf438229bac61

后续若项目推出新版本,请优先使用 Releases 页面中的最新命令。

第三步:安装 Skill Recorder

macOS 或 Ubuntu

打开终端,执行:

commit="c7f2fe4402527a0eb7f4fc1b653bf438229bac61"; curl -fsSL "https://raw.githubusercontent.com/microsoft/skill-recorder/$commit/install.sh" | SKILL_RECORDER_COMMIT="$commit" bash

如果希望关闭终端后应用继续运行,可以使用:

commit="c7f2fe4402527a0eb7f4fc1b653bf438229bac61"; curl -fsSL "https://raw.githubusercontent.com/microsoft/skill-recorder/$commit/install.sh" | SKILL_RECORDER_COMMIT="$commit" SKILL_RECORDER_DETACHED=1 bash

安装完成后:

  • macOS 会在 ~/Applications 中添加 Skill Recorder (Source)
  • Ubuntu 会创建相应的应用入口。

Windows 11

以 PowerShell 执行:

$commit="c7f2fe4402527a0eb7f4fc1b653bf438229bac61"; $env:SKILL_RECORDER_COMMIT=$commit; irm "https://raw.githubusercontent.com/microsoft/skill-recorder/$commit/install.ps1" | iex

安装完成后,桌面和开始菜单中会出现 Skill Recorder (Source) 快捷方式。

如果不希望直接执行在线脚本,可以按照官方提供的 INSTALL.md 先下载并检查脚本,同时比对 Release 页面公布的 SHA-256,再手动运行。

第四步:授予屏幕录制权限

首次启动时,macOS 会申请屏幕录制权限。

按照系统提示完成授权。如果授权后仍无法捕获画面,可以在:

系统设置 → 隐私与安全性 → 屏幕与系统音频录制

确认 Skill Recorder 或相关终端应用已经获得权限,然后重新启动软件。

第五步:开始录制任务

点击录制按钮,或者使用全局快捷键:

  • macOS:Command + Shift + R
  • Windows:Ctrl + Shift + R

随后按照真实工作流程完成一次任务。

为了提高 AI 分析的准确度,建议:

  • 操作节奏适当放慢;
  • 删除与任务无关的临时步骤;
  • 尽量从清晰的初始状态开始;
  • 使用语音解释关键判断;
  • 避免在录制过程中处理其他事情;
  • 使用测试数据代替真实敏感数据。

录制期间,置顶控制条会显示画面和麦克风状态,可以随时静音、切换麦克风、结束或放弃本次录制。

第六步:分析录制内容

完成操作后点击 Analyze

首次分析时,如果还没有登录 GitHub Copilot,应用会引导用户完成账号登录和授权。

Copilot 随后会分析录制内容,并生成:

  • 任务总体意图;
  • 按执行顺序排列的步骤;
  • 对操作过程的结构化描述。

第七步:校对生成步骤

重点检查以下内容:

  • 任务目标是否准确;
  • 步骤顺序是否正确;
  • 是否遗漏关键判断条件;
  • 固定数据是否应该改为变量;
  • 是否错误保留了测试账号或测试内容;
  • 异常情况是否有处理方案;
  • 高风险动作前是否需要人工确认。

这是决定 Skill 后续稳定性的关键环节,不建议直接跳过。

第八步:生成 Skill 或 Automation

确认分析结果后,可以选择生成:

  • Skill:需要时由 Agent 主动调用;
  • Automation:按照计划时间或指定事件触发。

如果任务需要根据不同输入重复执行,应该进一步检查生成内容是否已经将姓名、日期、项目名称、文件地址等示例数据抽象为可变参数。

资源获取

常见问题(FAQ)

Skill Recorder是什么?
Skill Recorder是微软开源的一款Electron桌面应用,可以录制用户真实电脑操作过程,并通过GitHub Copilot分析生成AI Agent可复用的Skill或Automation。
使用Skill Recorder需要什么条件?
需要有GitHub账号且拥有Copilot权限,设备为macOS、Windows 11或Ubuntu,并能访问GitHub、Node.js和npm相关服务。
录制的内容会发送到云端吗?
录制阶段数据在本地处理,只有点击Analyze后相关分析数据才会发送到GitHub云端,由Copilot处理。建议不要录制密码、密钥等敏感信息。
生成的Skill可以在哪里使用?
生成的Skill可用于Microsoft Scout、Microsoft Copilot Cowork和Copilot Studio等Agent场景,按需调用或按计划/事件触发。
如何安装Skill Recorder?
前往GitHub Releases页面获取最新版本安装命令,macOS/Ubuntu使用终端执行安装脚本,Windows 11使用PowerShell执行安装脚本。
4 讨论
热门最新
总结
暂无总结

教程很详细,已经成功生成第一个Skill,虽然还需要调整,但确实方便。

请问录制的时候会不会占用很多资源?我电脑配置一般,担心卡顿。

已经安装了,但是分析时需要Copilot权限,我的账号有,试试看效果如何。

这个工具太适合我了,平时要重复操作好多表格,这样录一遍就能让AI帮我干了,感谢分享!

0 / 600

正在发生

最新事件奖励滚动播报

LIVE0
暂无可展示的事件