基于 Elixir/OTP 的生产级 AI Agent 运行时,提供 8 种显式推理策略与统一工具合约,用于构建可观测、可恢复的 LLM 编排系统。
Jido.AI 是 Jido 生态系统的 AI 运行时层,构建于 Elixir/OTP 之上,专注于生产级 LLM Agent 的编排与推理控制。
推理策略#
默认采用 ReAct(Reasoning + Acting)策略,同时内置 8 种可切换的显式推理策略:CoD(简洁描述)、CoT(思维链)、AoT(算法思维)、ToT(思维树)、GoT(思维图)、TRM(递归精炼)及 Adaptive(自适应混合)。不同策略以独立模块实现(如 CoTAgent、ToTAgent),共享统一 Agent 接口,按任务复杂度与延迟要求灵活选用。
工具体系#
通过 Jido.Action 宏定义工具,使用 Zoi 进行编译时 JSON Schema 验证,工具可被 Agent 挂载也可通过 Jido.Exec.run/3 独立运行。请求级支持 allowed_tools 按名称过滤、tool_context 注入上下文、request_transformer 动态修改请求。
调用模式#
提供从轻量到重量级的完整调用谱系:无需 Agent 进程的快捷方法(generate_text/2、ask/2);同步调用 ask_sync/3;异步显式句柄 ask/3 + await/2 防止并发覆盖;以及 AgentServer 持久运行的长期 Agent。
运行时保障#
每个 Agent 运行在独立 BEAM 进程中,由 OTP Supervisor 监管实现故障自愈。Jido.AI.Observe 暴露标准化 Telemetry 事件便于监控接入。独立 ReAct 运行时支持流式输出与 checkpoint 恢复。Policy 和 Quota 插件可在请求管道中确定性拦截不安全或超预算请求。
多提供商支持#
通过 req_llm 抽象层接入 Anthropic、OpenAI、Google 等提供商,使用 :fast、:capable 等语义别名路由模型,业务代码与具体模型解耦。
Jido 生态分层#
jido_ai(本项目):AI 运行时层——推理策略、Agent DSL、工具编排jido_action:类型化工具/Action 合约(schema + run 回调)jido:Agent 运行时、进程模型、Signal 生命周期req_llm:LLM 提供商抽象层(Anthropic/OpenAI/Google)
安装#
推荐使用 Igniter 自动化安装:
mix igniter.install jido_ai
手动安装需在 mix.exs 中添加 {:jido, "~> 2.0"} 和 {:jido_ai, "~> 2.1.0"} 依赖,并配置 model_aliases 与提供商 API Key。