简介：TensorRT是NVIDIA的一个高性能深度学习推理（Inference）引擎，它可以对深度学习模型进行优化，使其可以在NVIDIA的GPU上快速运行。本文将指导您在Ubuntu上安装TensorRT。
随着深度学习的快速发展，越来越多的模型被应用到各种实际场景中。然而，深度学习模型的计算复杂度往往非常高，这使得模型的推理过程变得非常耗时。为了解决这个问题，NVIDIA推出了TensorRT，一个针对深度学习推理的高性能引擎。TensorRT可以对深度学习模型进行优化，使其在NVIDIA的GPU上实现更快的运行速度。
在Ubuntu上安装TensorRT需要先安装好CUDA和cuDNN。CUDA是NVIDIA推出的并行计算平台和编程模型，它允许开发者使用NVIDIA的GPU进行通用计算。而cuDNN则是CUDA的深度神经网络库，它为常见的深度学习操作提供了高效的实现。
以下是在Ubuntu上安装TensorRT的步骤：
第一步：查看CUDA和cuDNN版本
在安装TensorRT之前，你需要知道你的CUDA和cuDNN的版本。你可以通过在终端输入以下命令来查看CUDA的版本：
nvcc --version
cuDNN的版本通常与CUDA的版本相对应，你可以在NVIDIA的官方网站上查找你的CUDA版本对应的cuDNN版本。
第二步：下载TensorRT
在NVIDIA的官方网站上找到与你的CUDA版本对应的TensorRT安装包，下载并解压。解压后的文件应该包含一个名为lib的目录和一个名为include的目录。
第三步：安装TensorRT
将解压后的lib目录和include目录分别复制到你的CUDA安装目录的相应位置。通常，CUDA的安装目录是/usr/local/cuda。你可以使用以下命令进行复制：
sudo cp -r /path/to/TensorRT/lib /usr/local/cuda/lib64/sudo cp -r /path/to/TensorRT/include /usr/local/cuda/include/
请确保将/path/to/TensorRT替换为你的TensorRT解压后的实际路径。
第四步：配置环境变量
为了让系统能够找到TensorRT的库文件，你需要在bashrc文件中添加TensorRT的库路径。打开bashrc文件：
sudo vim ~/.bashrc
在文件末尾添加以下行：
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
保存并关闭文件后，运行以下命令使环境变量生效：
source ~/.bashrc
至此，你已经成功在Ubuntu上安装了TensorRT。你可以使用以下命令来验证TensorRT是否已经成功安装：
trtexec --version
如果输出显示了TensorRT的版本信息，那么说明TensorRT已经成功安装。
总结
本文介绍了在Ubuntu上安装TensorRT的步骤，包括查看CUDA和cuDNN版本、下载并解压TensorRT、安装TensorRT以及配置环境变量。通过按照这些步骤进行操作，你应该能够在Ubuntu上成功安装TensorRT，并使用它进行深度学习模型的推理。希望这篇文章能够帮助你更好地理解和使用TensorRT。