项目对比
选择 2–4 个项目，按同一口径比较。
仅隐藏已确认相同的信息，未知项仍保留。
HAI-Infra-from-Zero-to-Hero
🚀 很棒的机器学习系统 ⚡️ AI 系统论文和行业实践。 ⚡️ 机器学习系统、LLM（大型语言模型）、GenAI（生成式人工智能）。 🍻 OSDI、NSDI、SIGCOMM、SoCC、MLSys 等。 🗃️ Llama3、Mistral 等。 🧑💻 视频教程。
NTensorRT-LLM
TensorRT LLM 为用户提供了易于使用的 Python API 来定义大型语言模型 (LLM)，并支持最先进的优化，以便在 NVIDIA GPU 上高效地执行推理。 TensorRT LLM 还包含用于创建 Python 和 C++ 运行时的组件，这些运行时以高性能的方式编排推理执行。
热度
仓库 Star4,45914,995最高
近 7 天 Star 净增——
Fork4162,901最高
30 天趋势历史不足历史不足
维护
最近推送2025-07-252026-11-03
维护说明待核实待核实
仓库创建2019-01-072023-08-16
基本信息
按用途浏览模型运行与服务模型运行与服务
资源类型教程、案例与资源合集模型与模型适配资源
细分类入门教程语言模型
运行平台待核实待核实
费用说明软件、托管、模型调用及基础设施费用以官方当前说明为准。软件、托管、模型调用及基础设施费用以官方当前说明为准。
价格来源——
首次收录2026-11-032026-11-03
指标GitHub 仓库 Star，不是独立使用人数或单项技能安装量GitHub 仓库 Star，不是独立使用人数或单项技能安装量
语言—Python
项目介绍🚀 很棒的机器学习系统 ⚡️ AI 系统论文和行业实践。 ⚡️ 机器学习系统、LLM（大型语言模型）、GenAI（生成式人工智能）。 🍻 OSDI、NSDI、SIGCOMM、SoCC、MLSys 等。 🗃️ Llama3、Mistral 等。 🧑💻 视频教程。TensorRT LLM 为用户提供了易于使用的 Python API 来定义大型语言模型 (LLM)，并支持最先进的优化，以便在 NVIDIA GPU 上高效地执行推理。 TensorRT LLM 还包含用于创建 Python 和 C++ 运行时的组件，这些运行时以高性能的方式编排推理执行。
采集时间2026-11-03 09:36 UTC2026-11-03 08:24 UTC
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。 按仓库累计 Star 排序，同一仓库只占一个位置；Star 与 Fork 不代表用户数。