Tensorflow Serving 1.0
Tensorflow Serving 1.0 was release on Aug / 7 at Google I/O '17 What's TensorFlow Serving ? Tensorflow Serving은 After training engine이라고 볼수 있겠다. 쉽게 말해 inference용 engine이다. NVIDIA의 TensorRT와 같은 기능을 생각하면 될 것 같다. 장점은 portable한 inference engine이라는것이고 (다른 ML platform 적용가능) 여러가지 training모델을 하나의 프로세스에서 작동이 가능하다고 한다. trained된 model을 올렸다가 내렸다가 할수 있다는것이다. docker와 kubernete가 지원된다. Tensorflow 최적화가 잘되어있다고 한다..
IT/Tensorflow
2017. 8. 8. 17:48