全部项目
当前范围的仓库 8 · UTC 2026-11-05
对比排名项目StarFork30 天趋势7 天净增最近推送登录后收藏
3—MMakazhanAlpamys / Soup从一个 YAML 微调 LLM。层流在 4 GB 笔记本电脑 GPU 上训练 8B 模型。PythonApache-2.0 · 宽松，可直接商用名次历史不足10,0511,660——2026-11-03
4—MMichael-A-Kuykendall / shimmy⚡ Pure-Rust WebGPU 推理引擎 - OpenAI-API 兼容，GGUF 原生，可在任何 GPU 上运行。没有Python。没有 llama.cpp。单个二进制。RustApache-2.0 · 宽松，可直接商用名次历史不足6,008587——2026-11-01
5—AAtomicBot-ai / atomic-agentAtomic Agent 是一种本地优先的 AI 代理，通过 llama.cpp 在您自己的机器上运行开放权重模型。TypeScriptMIT · 宽松，可直接商用名次历史不足3,492278——2026-10-29
6—Ddatawhalechina / handy-ollama动手学Ollama,CPU玩转大模型部署,在线阅读地址:https://datawhalechina.github.io/handy-ollama/Jupyter NotebookNOASSERTION · 限制商用 / 未知名次历史不足2,546323——2026-01-15
7—Hheshengtao / comfyui_LLM_partyComfyUI中的LLM代理框架包括MCP服务器、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0、FLUX提示节点，接入飞书、discord，并适配所有具有类似openai/aisuite接口的LLMS，如o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubao。适配本地llms、vlm、gguf如llama-3.3 Janus-Pro、Linkage graphRAGPythonAGPL-3.0 · 需开源衍生作品名次历史不足2,387210——2026-07-29
8—Ddefilantech / LLMKubeKubernetes 运算符，用于跨异构 GPU 群进行自托管 LLM 推理：NVIDIA CUDA、AMD Vulkan 和 Apple Silicon Metal。运行时：llama.cpp、vLLM、TGI、mlx-server。多 GPU 分片、模型缓存、OpenAI 兼容端点。 Apache-2.0，跨家庭实验室和本地机群运行，正在积极开发。GoApache-2.0 · 宽松，可直接商用名次历史不足25243——2026-11-03
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。