TensorRT

AI-ügynökkel gyorsítana ROS 2 node-okat az NVIDIA Isaac ROS
Az NVIDIA egy AI kódolóügynökre épülő munkafolyamatot mutatott be, amely ROS 2 node-ok CUDA buffer backendre való átállítását segíti. A cél, hogy a GPU-n lévő adatok…

Több GPU-n futó TensorRT inferenciát kapott az NVIDIA Dynamo-Triton
Az NVIDIA Dynamo-Triton 26.07-ben elérhetővé vált a TensorRT backend többeszközös inferenciája, amely egyetlen modellvégponton keresztül tud több GPU-t használni. Az…

Két paranccsal vihető C++ inferenciáig egy nyílt modell az NVIDIA új eszközével
Az NVIDIA 2026. augusztus 28-án bemutatta a TensorRT Model Connect nevű nyílt referencia-implementációs gyűjteményt. Az eszköz célja, hogy támogatott nyílt modelleket…