【trition-server】python-backend 源码阅读
- c++ 的stub 代码import 了 python的类 sys 和 triton_python_backend_utils.py
- stub本身是一个进程,与主进程做IPC通信
docker 运行一个trition-server
(base) zhangbin@ubuntu-server:~$ docker run --shm-size=1g --ulimit memlock=-1 -p 8000:8000 -p 8001:8001 -p 8002:8002 --ulimit
原文地址:https://blog.csdn.net/commshare/article/details/140209710
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!