Ubuntu下TensorRT与trtexec工具的安装

07-02 1003阅读

新版(这里测试的是10.1版)的onnx转tensorrt engine工具trtexec已经集成在TensorRT中,不需要额外单独安装。

Ubuntu下TensorRT与trtexec工具的安装
(图片来源网络,侵删)

教程来源于此网页:https://medium.com/@moshiur.faisal01/install-tensorrt-with-command-line-wrapper-trtexec-on-ununtu-20-04-lts-3e44f4f36a2b

注意:cuda应当是从deb包或者直接根据apt的命令下载得到的,否则第4步的时候会报缺乏依赖的错误!!!

1. 下载TensorRT对应版本的deb包

在这里找到对应的deb包,用wget命令或者别的方法下载。注意deb包必须与你的ubuntu和cuda版本一致。

2. 解压TensorRT deb包

切到该包的下载目录,命令行执行(将下面的deb包名换成你下好的那个版本的包名)

sudo dpkg -i nv-tensorrt-local-.deb

执行下面命令将该包的密钥加入到apt中(下面的换成你的,不确定是哪个可以双击tab显示出来)。有些deb包会在你执行完上一条命令后提示你如何添加密钥,那么你可以运行它所提示的命令,而不是用下面的命令。

sudo apt-key add /var/nv-tensorrt-repo-/*.pub

3. 更新apt

sudo apt-get update

4. 安装tensorrt

这时候,apt中应该就能找到tensorrt了,使用以下命令安装即可。

sudo apt-get install tensorrt
VPS购买请点击我

文章版权声明:除非注明,否则均为主机测评原创文章,转载或复制请以超链接形式并注明出处。

目录[+]