• c++ 的stub 代碼import 了 python的類 sys 和 triton_python_backend_utils.py
• stub本身是一個進程，與主進程做IPC通信

docker 運行一個trition-server

(base) zhangbin@ubuntu-server:~$ docker run --shm-size=1g --ulimit memlock=-1 -p 8000:8000 -p 8001:8001 -p 8002:8002 --ulimit