TensorRT推理时间不稳定的解决方案
目录
解决方案
锁定GPU时钟频率(实测有效)
第一步
使用 nvidia-smi -q -d SUPPORTED_CLOCKS 查询GPU支持的最高频率,如下图所示为 8001 MHz
第二步
cmd(管理员权限)
设置锁定频率 nvidia-smi -lgc 8001 设置成功后的结果如下图所示:
效果
锁定后:
锁定前:
解除锁频方法
nvidia-smi --reset-gpu-clocks
原文地址:https://blog.csdn.net/lw112190/article/details/140733883
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!