自学内容网 自学内容网

【trition-server】python-backend 源码阅读

  • c++ 的stub 代码import 了 python的类 sys 和 triton_python_backend_utils.py
  • stub本身是一个进程,与主进程做IPC通信

docker 运行一个trition-server

(base) zhangbin@ubuntu-server:~$ docker run --shm-size=1g --ulimit memlock=-1 -p 8000:8000 -p 8001:8001 -p 8002:8002 --ulimit 

原文地址:https://blog.csdn.net/commshare/article/details/140209710

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!