TensorRT 3
TensorRT란? =>예전에는 GPU Inference Engine이라 불리였던 Deep Learning Inference Engine. 2017년 8월 9일 현재 TensorRT 2까지 나왔고 TensorRT 3이 Volta 정식발매와 함께 출시예정.최근 TensorRT 3 Early Access Interest를 받고있음.NVIDIA developer 참조. TensorRT는 주로 P40, P4같은 Inference용 그래픽카드에서 최적화 되어있다고 말할수 있음. TensorRT 구조 크게 2가지 구조로 구성되어 있는데 하나는 TensorRT Optimizer(Training 모델 최적화) 다른 하나는 TensorRT Runtime Engine으로 주로 Inference용으로 실제 적용하려는 제품에..
IT/NVIDIA software
2017. 8. 9. 10:29