chatml
✨该项目信息不完整，已保留可验证数据供后续补充。自动化抓取未能获取页面内容，项目具体功能待人工确认。
模型与推理框架大语言模型Python
模型与推理框架
51 个项目
llmfit
✨一款基于 Rust 的跨平台命令行工具，通过检测本地硬件（CPU/GPU/RAM）自动评估并推荐最适合的大语言模型及量化策略，支持 206 个模型和 57 个提供商。
模型与推理框架大语言模型Rust
Inspect (Inspect AI)
✨英国 AI 安全研究所开源的大语言模型评估框架，采用模块化 Datasets/Solvers/Scorers 三层架构，支持多模型、多工具、沙箱环境的标准化评测，包含 100+ 预构建评估基准。
模型与推理框架SDKAI代理
Edge-Veda
✨Flutter 端侧全栈 AI SDK，支持 LLM、视觉、语音、绘图与 RAG，具备计算预算合约与自适应 QoS 能力，零云依赖。
大语言模型多模态SDK
Arthur Engine
✨开源的 AI 监控与治理引擎，提供 LLM 幻觉检测、PII 识别、提示注入防御及传统 ML 模型评估功能，支持实时防护栏与 OpenInference 规范。
模型与推理框架机器学习大语言模型
cascadeflow
✨智能AI模型级联库，通过推测执行动态选择最优模型，实现40-85%成本节省与2-10x延迟优化。
SDK大语言模型AI代理
trackers
✨即插即用的多目标跟踪（MOT）Python库，提供SORT和ByteTrack等经典算法的模块化实现。采用检测器无关设计，可配合任意目标检测模型（YOLO、DETR等）使用，支持视频文件、摄像头、RTSP流等多种输入源。提供统一CLI工具与Python API，内置CLEAR、HOTA、Identity等标准MOT评估指标计算功能。
多模态深度学习SDK
MiniCPM-o
✨清华大学THUNLP推出的端到端全能多模态大模型，支持视觉理解、语音对话和全双工多模态实时流交互，性能接近Gemini 2.5 Flash，可在手机端高效运行。
大语言模型多模态Transformers
Heretic
✨语言模型全自动审查移除工具，通过方向性消融与TPE参数优化自动移除模型安全对齐，在最小化拒绝行为的同时保留模型原始能力。支持稠密模型、多模态模型和MoE架构。
多模态大语言模型Transformers
Moonshine Voice
✨面向边缘设备优化的快速精准实时语音识别解决方案。支持流式处理、语音意图识别与说话人识别，延迟远低于 Whisper（Medium 模型 Mac 仅 107ms），统一 API 跨 iOS、Android、Linux、Windows、macOS，适用于机器人控制、智能家居、IoT 设备等边缘场景。
多模态SDKPyTorch
每页
第 1 / 6 页 · 共 51 条