项目对比
选择 2–4 个项目，按同一口径比较。
仅隐藏已确认相同的信息，未知项仍保留。
NTensorRT-LLM
TensorRT LLM 为用户提供了易于使用的 Python API 来定义大型语言模型 (LLM)，并支持最先进的优化，以便在 NVIDIA GPU 上高效地执行推理。 TensorRT LLM 还包含用于创建 Python 和 C++ 运行时的组件，这些运行时以高性能的方式编排推理执行。
热度
仓库 Star14,995最高12,581
近 7 天 Star 净增——
Fork2,901最高849
30 天趋势历史不足历史不足
维护
最近推送2026-11-032026-11-02
维护说明待核实待核实
仓库创建2023-08-162023-04-19
基本信息
按用途浏览模型运行与服务模型运行与服务
资源类型模型与模型适配资源应用与完整系统
细分类语言模型AI 应用
运行平台待核实待核实
费用说明软件、托管、模型调用及基础设施费用以官方当前说明为准。软件、托管、模型调用及基础设施费用以官方当前说明为准。
价格来源——
首次收录2026-11-032026-11-03
指标GitHub 仓库 Star，不是独立使用人数或单项技能安装量GitHub 仓库 Star，不是独立使用人数或单项技能安装量
语言PythonPython
项目介绍TensorRT LLM 为用户提供了易于使用的 Python API 来定义大型语言模型 (LLM)，并支持最先进的优化，以便在 NVIDIA GPU 上高效地执行推理。 TensorRT LLM 还包含用于创建 Python 和 C++ 运行时的组件，这些运行时以高性能的方式编排推理执行。在云中运行任何开源 LLM（例如 DeepSeek 和 Llama）作为 OpenAI 兼容 API 端点。
采集时间2026-11-03 08:24 UTC2026-11-03 08:31 UTC
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。 按仓库累计 Star 排序，同一仓库只占一个位置；Star 与 Fork 不代表用户数。