全部项目
当前范围的仓库 6 · UTC 2026-11-05
对比排名项目StarFork30 天趋势7 天净增最近推送登录后收藏
1—Xxorbitsai / inference作者声明:通过更改一行代码即可将 GPT 替换为任何 LLM。 Xinference 可让您在云、本地或笔记本电脑上运行开源、语音和多模式模型 - 所有这些都通过一个统一的、可用于生产的推理 API。PythonApache-2.0 · 宽松,可直接商用名次历史不足9,639892——2026-11-03
3—Kkvcache-ai / MooncakeMooncake是Moonshot AI提供的领先LLM服务Kimi的服务平台。C++Apache-2.0 · 宽松,可直接商用名次历史不足6,9611,428——2026-11-03
4—Ggpustack / gpustack用于高性能 AI 模型服务(vLLM、SGLang)和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。PythonApache-2.0 · 宽松,可直接商用名次历史不足5,956712——2026-11-03
5—GGen-Verse / OpenClaw-RLOpenClaw-RL:只需通过对话即可训练任何智能体PythonApache-2.0 · 宽松,可直接商用名次历史不足5,745614——2026-05-23
6—Ppatchy631 / time-to-first-token为期 10 周、每天 30 分钟的 LLM 推理服务和优化路线图。 vLLM、SGLang、量化、推测解码、基准测试。HTMLApache-2.0 · 宽松,可直接商用名次历史不足1,012115——2026-08-14
商用三档依据许可证元数据自动分类;具体义务需结合实际使用方式核对。未知不等于禁止商用。