BitNet (1-bit LLMs 官方推理框架)
🧠微软官方推出的 1-bit 大语言模型推理框架。通过高度优化的内核,实现 CPU 和 GPU 上的无损、高速推理,大幅降低能耗并允许在普通设备上运行千亿参数级模型。
模型与推理框架PythonPyTorch
微软官方推出的 1-bit 大语言模型推理框架。通过高度优化的内核,实现 CPU 和 GPU 上的无损、高速推理,大幅降低能耗并允许在普通设备上运行千亿参数级模型。
一个可自定义的AI桌面伴侣项目,支持角色设定、语音对话、长期记忆等功能,响应时间低于1秒,可集成Live2D模型。
桌面和浏览器应用,用于并行智能代理开发,支持多种LLM模型和隔离工作空间。
一款桌面MCP客户端应用,通过Model Context Protocol加速AI工具集成,支持跨厂商LLM API编排,提供零账户、完全控制的本地AI体验。
OpenDAN是一个开源的个人信息操作系统,整合了多种AI模块于一体,使用户能够创建和管理个性化的AI助手、数字伴侣和应用,实现AI能力的统一管理和协同工作。
一个功能强大的开源AI助手平台,统一管理多种AI模型、工具和智能代理,支持多模态对话和本地模型部署。
第 1 / 1 页 · 共 6 条
获取最新的 AI 工具和趋势,直接发送到您的收件箱。没有垃圾邮件,只有智能。