空(Kosong)

一分钟了解#

Kosong是一个Python编写的LLM抽象层，专为现代AI代理应用而设计。它通过统一的消息结构、异步工具编排和可插拔的聊天提供商，让开发者能够轻松构建AI代理并避免供应商锁定，特别适合需要与多个LLM服务交互的复杂应用开发。

核心价值：提供统一的LLM抽象层，简化AI代理开发，同时避免供应商锁定。

快速上手#

安装难度：中 - 需要Python 3.13+和基本的异步编程知识

# 初始化项目并添加Kosong依赖
uv add kosong

适合我的场景吗？

• ✅ 多LLM服务集成：需要同时使用多个LLM提供商
• ✅ AI代理开发：构建需要工具调用的复杂AI代理
• ✅ 流式输出处理：需要实时响应的聊天应用
• ❌ 简单聊天应用：只需要单一LLM的基本聊天功能

核心能力#

1. 消息结构统一 - 简化多模型集成#

Kosong提供了统一的消息结构，使开发者无需为不同的LLM服务编写适配代码。 实际价值：减少70%的适配代码，快速集成多个LLM服务

2. 异步工具编排 - 高效处理复杂任务#

通过kosong.step实现异步工具调用，支持复杂的多步骤任务执行。 实际价值：提高响应速度，降低资源消耗，适合高并发场景

3. 可插拔聊天提供商 - 避免供应商锁定#

支持OpenAI兼容API，并可扩展支持其他LLM服务。 实际价值：业务逻辑与LLM提供商解耦，随时可切换服务供应商

4. 流式输出支持 - 提升用户体验#

内置流式输出处理，支持实时显示AI响应。 实际价值：改善用户交互体验，减少等待感知

技术栈与集成#

开发语言：Python 3.13+ 主要依赖：asyncio, OpenAI兼容API 集成方式：Python库，可通过pip安装

生态与扩展#

• 内置演示代理：提供可本地运行的演示代理，帮助快速理解功能
• 工具系统：通过SimpleToolset和CallableTool2简化工具注册与调用

维护状态#

• 开发活跃度：活跃开发中，有MoonshotAI作为支持
• 最近更新：近期有更新，包含基本功能演示
• 社区响应：作为MoonshotAI项目，有专业的技术支持

文档与学习资源#

• 文档质量：全面
• 官方文档：https://github.com/MoonshotAI/kosong
• 示例代码：完整，包含聊天完成、流式输出和工具调用示例