ARK - Agentic Runtime for Kubernetes

由 McKinsey 发布的基于 Kubernetes 的 AI Agent 运行时平台，通过 CRD 标准化代理资源的部署、编排与评估，提供生产级多代理系统基础设施。当前处于 Technical Preview 阶段。

项目简介#

ARK 是由 McKinsey & Company (QuantumBlack) 发布的开源 AI Agent 运行时平台，基于 Kubernetes 构建生产级代理系统基础设施。项目当前处于 Technical Preview & RFC（征求意见）阶段，采用 Apache License 2.0 许可证。

核心能力#

CRD 资源管理#

通过 11 种 Kubernetes CRD 实现代理资源的声明式管理：

资源类型	功能
Models	配置和连接 AI 模型 Provider
Agents	创建具有特定能力和工具的自主 AI 代理
Teams	编排多代理协同，支持协调策略
Queries	执行提示并与代理/团队对话
Tools	定义自定义工具和 MCP 工具引用
MCPServers	配置 Model Context Protocol 服务器
Memory	代理对话和状态的持久化存储
Evaluator	评估和评分代理性能的服务
Evaluation	定义评估配置和结果
ExecutionEngine	不同代理框架的专用运行时
A2AServer	Agent-to-Agent 通信服务

平台特性#

Provider-agnostic operations（平台无关的代理操作）
标准化部署模式
透明编排
内置评估能力
可扩展工具集成（MCP 协议支持）
多代理协调
Custom Headers 支持（请求追踪、自定义元数据）

内置服务#

ark-api: REST API + A2A Gateway
ark-dashboard: Web 管理界面
ark-mcp: MCP 服务器集成服务
ark-evaluator: 综合评估和评分服务
ark-broker: 带流式支持的内存存储
localhost-gateway: 本地开发网关
langchain-execution-engine: LangChain 代理执行引擎

安装与使用#

前置条件#

Kubernetes 集群
Node.js
Helm
kubectl
至少 2 CPU 和 4 GiB RAM

快速开始#

# 安装 CLI
npm install -g @agents-at-scale/ark

# 安装 ARK 到集群
ark install

# 配置默认模型
ark models create default

# 启动仪表板
ark dashboard

Python SDK#

pip install ark-sdk

from ark_sdk import ARKClientV1alpha1
from ark_sdk.models.agent_v1alpha1 import AgentV1alpha1, AgentV1alpha1Spec

client = ARKClientV1alpha1(namespace="default")
agent = AgentV1alpha1(
    metadata={"name": "my-agent"},
    spec=AgentV1alpha1Spec(prompt="Hello", modelRef={"name": "gpt-4"})
)
created = client.agents.create(agent)

自定义执行引擎开发#

from ark_sdk import BaseExecutor, ExecutorApp, ExecutionEngineRequest, Message

class MyExecutor(BaseExecutor):
    def __init__(self):
        super().__init__("MyEngine")

    async def execute_agent(self, request: ExecutionEngineRequest) -> List[Message]:
        return [Message(role="assistant", content="Hello!")]

executor = MyExecutor()
app = ExecutorApp(executor, "MyEngine")
app.run(host="0.0.0.0", port=8000)

架构设计#

┌─────────────────────────────────────────────────────┐
│                   ark-dashboard (Web UI)            │
├─────────────────────────────────────────────────────┤
│                   ark-api (REST API + A2A Gateway)  │
├─────────────────────────────────────────────────────┤
│               Kubernetes Operator                   │
│          (Go-based Controller + CRDs)               │
├─────────────────────────────────────────────────────┤
│  Execution Engines │ MCP Servers │ Evaluators       │
├─────────────────────────────────────────────────────┤
│               ark-broker (Memory)                   │
└─────────────────────────────────────────────────────┘

技术栈#

核心控制器: Go (Kubernetes Operator, kubebuilder/controller-runtime)
CLI 工具: Node.js/TypeScript (@agents-at-scale/ark)
Python SDK: Python 3.9+ (ark-sdk)
执行引擎: FastAPI + uvicorn
包管理: Helm Charts
开发工具: DevSpace (热重载)

适用场景#

生产级 Agent 部署
多代理系统编排
Agent 性能评估
工具集成（通过 MCP 协议）
可观测性（Langfuse 集成）
企业级 AI 基础设施

重要提示#

项目当前处于 Technical Preview 阶段，可能包含不完整功能、实验性功能，并可能根据社区反馈进行重大更改。详见官方 Disclaimer。