使用 NVIDIA TensorRT Model Connect，通过两个命令即可将 Open Model 从 Checkpoint 部署到推理阶段。

2026 年 8 月 28 日，NVIDIA 在其开发者博客宣布推出开源参考实现集合 TensorRT Model Connect。该工具旨在解决将快速演进的开放模型集成至原生应用时面临的特定转换、预处理及运行时代码难题。TensorRT Model Connect 支持在原生 C++ 环境中运行受支持的模型，并展示了如何通过两条命令即可完成从 Checkpoint 到推理的部署流程。