Inspect (Inspect AI)
✨英国 AI 安全研究所开源的大语言模型评估框架，采用模块化 Datasets/Solvers/Scorers 三层架构，支持多模型、多工具、沙箱环境的标准化评测，包含 100+ 预构建评估基准。
模型与推理框架SDKAI代理
全部项目
5 个项目
Arthur Engine
✨开源的 AI 监控与治理引擎，提供 LLM 幻觉检测、PII 识别、提示注入防御及传统 ML 模型评估功能，支持实时防护栏与 OpenInference 规范。
模型与推理框架机器学习大语言模型
Heretic
✨语言模型全自动审查移除工具，通过方向性消融与TPE参数优化自动移除模型安全对齐，在最小化拒绝行为的同时保留模型原始能力。支持稠密模型、多模态模型和MoE架构。
多模态大语言模型Transformers
安达AI代理框架
✨一个基于Rust构建的AI代理框架，整合ICP区块链和可信执行环境(TEE)，旨在创建可组合、自主且具有永久记忆能力的AI代理网络。
智能体与应用工具RustLangChain
JudgeVal - AI评估框架
✨一个开源的AI模型评估框架，专注于安全性和符合性评估，为开发者和研究人员提供标准化评估方法。
模型与推理框架PythonPyTorch
每页
第 1 / 1 页 · 共 5 条