全部项目
当前范围的仓库 23 · UTC 2026-11-05
对比排名项目StarFork30 天趋势7 天净增最近推送登录后收藏
1—Mmodelscope / FunASR开源语音识别工具包，用于训练、推理、流式 ASR、VAD、标点符号、说话者分类管道和 OpenAI 兼容/MCP 服务。PythonMIT · 宽松，可直接商用名次历史不足20,9132,102——2026-11-02
2—Mmeta-llama / llama-cookbook欢迎来到骆驼食谱！这是您使用 Llama 构建的入门指南：推理、微调、RAG 入门。我们还向您展示如何使用 Llama 模型系列解决端到端问题并将其用于各种提供商服务Jupyter NotebookMIT · 宽松，可直接商用名次历史不足18,5782,753——2026-05-19
3—Bbudtmo / docker-androidAndroid docker 解决方案，支持 noVNC、视频录制、mcp 服务器和 AI 代理PythonNOASSERTION · 限制商用 / 未知名次历史不足16,0811,783——2026-11-02
4—OOrchestra-Research / AI-Research-SKILLs适用于任何人工智能模型的人工智能研究和工程技能的综合开源库。将技能打包，您的 claude code/codex/gemini 代理将成为全马力的 AI 研究代理。由乐团研究维护。TeXMIT · 宽松，可直接商用名次历史不足14,223992——2026-10-11
5—Hhalfrost / Halfrost-Field✍🏻 Source Code Deep Dives, System Design & Engineering Blogs | Halfrost-Field 冰霜之地:源码解析、系统设计与工程实践笔记GoCC-BY-SA-4.0 · 需开源衍生作品名次历史不足13,2551,876——2026-09-30
6—LLMCache / LMCache作者声明：LMCache：用最快的 KV 缓存层增强您的 LLMPythonApache-2.0 · 宽松，可直接商用名次历史不足12,2662,118——2026-11-03
7—OOpenRLHF / OpenRLHF基于 Ray 的易于使用、可扩展且高性能的 Agentic RL 框架（PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL）PythonApache-2.0 · 宽松，可直接商用名次历史不足10,1361,055——2026-11-03
8—Xxorbitsai / inference作者声明：通过更改一行代码即可将 GPT 替换为任何 LLM。 Xinference 可让您在云、本地或笔记本电脑上运行开源、语音和多模式模型 - 所有这些都通过一个统一的、可用于生产的推理 API。PythonApache-2.0 · 宽松，可直接商用名次历史不足9,639892——2026-11-03
10—Kkvcache-ai / MooncakeMooncake是Moonshot AI提供的领先LLM服务Kimi的服务平台。C++Apache-2.0 · 宽松，可直接商用名次历史不足6,9611,428——2026-11-03
11—Vvllm-project / semantic-router用于模型和计算的开放式可编程决策层。GoApache-2.0 · 宽松，可直接商用名次历史不足6,3871,102——2026-11-03
12—Kkserve / kserve用于 Kubernetes 上可扩展、多框架部署的标准化分布式生成和预测 AI 推理平台GoApache-2.0 · 宽松，可直接商用名次历史不足6,1821,775——2026-11-02
13—Mmostlygeek / llama-swap任何本地 AI 服务器的可靠模型交换。被成千上万的用户选择。 含电池。如果我们没有，您可能也不需要它。GoMIT · 宽松，可直接商用名次历史不足6,166536——2026-11-03
14—Ggpustack / gpustack用于高性能 AI 模型服务（vLLM、SGLang）和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。PythonApache-2.0 · 宽松，可直接商用名次历史不足5,956712——2026-11-03
15—OOpenBMB / UltraRAG用于构建复杂且创新的 RAG 管道的低代码 MCP 框架PythonApache-2.0 · 宽松，可直接商用名次历史不足5,738458——2026-11-02
16—Xxlite-dev / Awesome-LLM-Inference📚精彩的 LLM/VLM 推理论文精选列表，包含代码：Flash-Attention、Paged-Attention、WINT8/4、Parallelism 等。🎉PythonGPL-3.0 · 需开源衍生作品名次历史不足5,542443——2026-10-20
17—Sskyzh / tiny-llm为系统工程师学习 Apple Silicon 上的 LLM 推理系统：构建微型 vLLM + QwenPythonApache-2.0 · 宽松，可直接商用名次历史不足5,529505——2026-10-31
18—Kkatanaml / sparrow使用 ML、LLM 和 Vision LLM 进行结构化数据提取、指令调用和代理工作流程PythonGPL-3.0 · 需开源衍生作品名次历史不足5,232518——2026-10-29
19—Llemony-ai / cascadeflowAI 代理的级联运行时。优化代理循环内的成本、延迟、质量和策略决策。PythonMIT · 宽松，可直接商用名次历史不足3,930880——2026-09-25
20—PPaddlePaddle / FastDeploy基于 PaddlePaddle 的高性能 LLM 和 VLM 推理与部署工具包PythonApache-2.0 · 宽松，可直接商用名次历史不足3,724758——2026-09-24
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。