{"repo":"Koldim2001/Triton_example","free":true,"listed":false,"github":"https://github.com/Koldim2001/Triton_example","clone":"git clone https://github.com/Koldim2001/Triton_example.git","description":"Triton Inference Server + TensorRT + метрики","language":"Jupyter Notebook","stars":23,"topics":["grafana","onnx","production","prometheus","tensorrt","triton","triton-inference-server"],"license":null,"category":"analytics","readme_excerpt":"Triton example Запуск кода: После запуска документция к API доступна тут - http://127.0.0.1:5000/docs --- Чтобы попасть в терминал trtexec container: Команда для ONNX - TensorRT конвертации: --- Для тестирования производительности вашего API с использованием инструмента Locust: Прочие файлы для тестов: test async.py и test usual.py --- YouTube-туториал по этому репозиторию доступен по ссылке - видео","default_branch":null,"files":null,"tree":[],"storefront":"/r/Koldim2001","claimed":false,"request_supported":{"post":"https://gitbuyer.com/r/Koldim2001/Triton_example/request-supported","requests":0},"note":"indexed from public GitHub; nothing is for sale on this page. Clone it from GitHub. Paid listings live at /search."}