项目对比
选择 2–4 个项目，按同一口径比较。
仅隐藏已确认相同的信息，未知项仍保留。
热度
仓库 Star7,84623,307最高
近 7 天 Star 净增——
Fork9182,089最高
30 天趋势历史不足历史不足
维护
最近推送2026-11-022026-11-03
维护说明待核实待核实
仓库创建2019-10-212026-02-13
基本信息
按用途浏览模型运行与服务模型运行与服务
资源类型应用与完整系统应用与完整系统
细分类通用AI 应用
运行平台待核实待核实
费用说明软件、托管、模型调用及基础设施费用以官方当前说明为准。软件、托管、模型调用及基础设施费用以官方当前说明为准。
价格来源——
首次收录2026-11-032026-11-03
指标GitHub 仓库 Star，不是独立使用人数或单项技能安装量GitHub 仓库 Star，不是独立使用人数或单项技能安装量
语言GoPython
项目介绍类型安全、代理的分布式编排、ML 管道以及 k8s 上的实时推理 - 使用带有 async/await 的纯 Python 以及其他语言（rust、go 和 ts）LLM 推理服务器，具有适用于 Apple Silicon 的连续批处理和 SSD 缓存 - 从 macOS 菜单栏进行管理
采集时间2026-11-02 19:02 UTC2026-11-03 08:27 UTC
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。 按仓库累计 Star 排序，同一仓库只占一个位置；Star 与 Fork 不代表用户数。