BitNet (1-bit LLMs 官方推理框架)
🧠微软官方推出的 1-bit 大语言模型推理框架。通过高度优化的内核，实现 CPU 和 GPU 上的无损、高速推理，大幅降低能耗并允许在普通设备上运行千亿参数级模型。
Python桌面应用PyTorch
全部项目
1 个项目
每页
第 1 / 1 页 · 共 1 条
微软官方推出的 1-bit 大语言模型推理框架。通过高度优化的内核，实现 CPU 和 GPU 上的无损、高速推理，大幅降低能耗并允许在普通设备上运行千亿参数级模型。
第 1 / 1 页 · 共 1 条
获取最新的 AI 工具和趋势，直接发送到您的收件箱。没有垃圾邮件，只有智能。