自学内容网 自学内容网

TensorRT推理时间不稳定的解决方案

目录

解决方案

第一步

第二步

效果

解除锁频方法


解决方案

锁定GPU时钟频率(实测有效)

第一步

使用 nvidia-smi -q -d SUPPORTED_CLOCKS 查询GPU支持的最高频率,如下图所示为 8001 MHz

第二步

cmd(管理员权限)

设置锁定频率 nvidia-smi -lgc 8001 设置成功后的结果如下图所示: 

效果

锁定后:

锁定前:

解除锁频方法

nvidia-smi --reset-gpu-clocks


原文地址:https://blog.csdn.net/lw112190/article/details/140733883

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!