# kagent, acp, agent substrate and other concepts

## 关于 kagent

上游：https://github.com/kagent-dev/kagent

写点 tldr 的核心要素：

- 一个 pod 里面跑一个 agent runtime
- k8s 负责管理 agents 运行
- 与其说是 coding agent，更像是把之前类似于 dashboard 的功能通过暴露给 agent 的接口整合到同一个平台之上，因为平台可以**共享** agent

上游更像分布式的（指 kagent 这个整体），二开的部分是中心化部署的。

Agent 的 Runtime 和 Agent 的定义是解耦的，Agent 通过类似声明式的方式定义（模型、system prompt、mcp、tool lists 等等）。

> [!note]
>
> 我感觉，kagent 与其说是大家理解的 coding agent，更像是（或者说我现在认为的）终极形态就是 chatgpt web 那样的
>
> 因为现在本来就更像是把之前类似于 dashboard 的功能通过暴露给 agent 的接口整合到同一个平台之上，因为平台可以**共享** agent
>
> chatgpt web 也是每个 session 有个虚拟机可以跑东西，然后可以随时恢复随时继续，背后肯定也是类似的方案

## ACP

（目前）二开的部分使用的都是 Google ADK 开发的 Agent Runtime

> [!note]
>
> 就是一个比较像 Langchain 的 Agent 开发框架，提供诸如 Agent 的定义、Tool Schema 的接口等等。

但是上游实现了所谓「**Harness 与 Agent Runtime 的解耦**」，简而言之，就是可以使用如 Codex, Pi 等作为 Harness，而不需要用 Google ADK 搓。

考虑到这个需求的时候，我首先想到的是 **ACP**，即 **Agent-Client Protocol**。这个协议主要是在 **Zed** 这个编辑器上用的比较多。不细究技术细节，单说 UX 的话，就是编辑器提供一个 agent panel，这个 panel 可以唤起本机的 agent，并且直接正常使用。背后简单来说，就是一套统一协议，给 Agent 实现 ACP Client 之后，客户端就能在一套 Interface 之下使用任意的 Agent Runtime 。

> 假设 Zed 想支持 Claude Code。Zed 需要完成以下工作：
>
> 1. 启动 Claude Code 进程。
> 2. 创建一个 Agent Session。
> 3. 向 Agent 发送用户输入。
> 4. 接收 Agent 的流式输出。
> 5. 显示 Agent 正在调用什么工具。
> 6. 处理 Agent 的权限申请。
> 7. 用户取消任务时，通知 Agent。
>
> Zed 实现一次 ACP Client，就能接入所有兼容 ACP 的 Agent。

具体来说，ACP 规定了这些内容：

1. `initialize`，建立连接的「**握手**」环节；
2. session 的生命周期的管理：创建、加载、恢复、关闭；
3. session 的交互：prompt, cancel, update;
4. 双向交互，比如 agent request persmission from user

但是很显然这一套东西似乎是有点少了...市面上的各路 agent 有太多太多的独家功能，所以上游先引入了 ACP，后面又去掉，改成了自己写 Runtime 接口。

> [!note]
>
> ACP 应该没有这么不堪吧？不然为什么 Zed 还一直在用呢？况且我觉得核心的功能支持了之后，剩下的在对话框里面单纯实现 slash command 的面板，这样我也想不到有什么功能是不能支持的，就好比是 QQ Bot 的接口，通过 Slash Command 就可以做很多事情了，然而用户只是在简单的聊天框中与之互动罢了。

## Agent Substrate

kagent 上游接入的一个功能，由 Google 开发，表现出来是这样的：

- 之前，开一个 agent 就是一个 pod
- 传统 Kubernetes Deployment 的方式，每个 Agent 分配一个 Pod，那么即使 Agent 有 99% 的时间处于空闲状态，也需要持续占用相应的 Pod 资源。

对于 Agent Substrate：

- 有一个 Worker Pool
  - Worker 是**一个**预先启动的 **Pod**，负责 Actor
- 一个 Worker，可以承载**多个**隔离的 Actor
  - Actor 是一个独立的 Agent 运行实例，拥有自己的进程、内存、文件系统和运行状态
- 一个 Agent Session 对应**一个** Actor
  - 创建 session 的时候，actor 是 suspend 状态，发送消息时才恢复
- Actor 空闲时将状态 snapshot 保存到 OSS，释放计算资源
- resume 的时候再恢复 snapshot

从这个机制，其实容易想到 Cloudflare 的 [Durable Objects](https://developers.cloudflare.com/durable-objects/concepts/what-are-durable-objects/) 和 [Containers](https://developers.cloudflare.com/agents/harnesses/container/)，无非就是这里的 Container 运行的是 Agent。

关于 Snapshot：需要考虑是**单纯恢复持久化的数据**还是**恢复整个运行时的状态**：

- 如果是前者，考虑创建基于 BTRFS 文件系统的 subvolume，这个 snapshot 非常方便
- 后者，就有点麻烦了，但是其实我感觉意义不大，毕竟平时用电脑的时候，关了再让 Agent 继续也不是什么很麻烦的事情
  - 不过完整的进程 Sandbox 的实现技术有两种：gVisor 和 microVM，这里暂时不展开。

## 对标 ChatGPT Chat (Web)

kagent 的终极目标肯定不是客户端分发级别的，而是集中部署，提供服务的 SaaS 类，并且还具有以下特征：

- 一般来说**不能读取**用户本机的环境，用户也**无法自由操作** agent 所属的环境
  - 前者使之有别于一般的 Coding Agent，后者使之有别于如 Dot 或 Grok Bot 之流
- agent 可用工具受限，或者说是权限管理比较多
- 从 UX 的角度，主要是给一般的 LLM 提供一些内网的服务的接口，用户可以方便地让 Agent 去使用这些服务

所以怎么看都觉得是和 ChatGPT Web 很相似的：

- ChatGPT Web 每个 Session 都有一个 Agent，Agent Runtime 必然依赖于一个虚拟机
- 不可能一个 Session 背后的 VM 都一直存在，必然是根据计算资源的分配动态释放的
  - 这不就是 Agent Substrate 吗
- Session 需要 resume，resume 的时候恢复程度是有限的
  - 对于 OpenAI 还需要考虑模型本身 KV Cache 的问题（也许），不过我们这里就不需要了

不过说实话，感觉说到这份上了，基本上就是对着造轮子，无非就是做些特化，如不同的 Agent 的使用依据用户或用户所属的组织进行权限的暴露，但是这都是更上层的内容，之后套就行了，似乎没有什么特别的新意。

> [!note]
>
> 事实上轮子也不用造...感觉真开源的也是一抓一大把。之前看到腾讯、阿里等都开源了自己的 Agent 沙箱，但似乎编排策略没有看到，可以日后调研一下。

一旦最底下的功能都搭好了，这边需要做的就是接入各种内部工具罢了，这个和 kagent 本身关系不大，而是各个负责部门开发对应的 CLI Tool / Skill / MCP etc 的事情。
