Một trong những khả năng của Tensorflow đó là định nghĩa và huấn luyện model sử dụng Python API và chuyển model học được sang sử dụng trong C++.
Các bước thực hiện
- Định nghĩa input, output graph của model
- Lưu lại các checkpoints. (Bước này rất quan trọng, bởi vì tất cả các biến được huấn luyện và lưu giữ ở bước này)
- Lưu lại
graph(raw definition, no variable). Đặt làinput_graph - Sử dụng file
freeze_graphđể kết hợp cấu trúc (3)input_graphvới các giá trị tại mỗi node (2) và sinh ra một graph model mới, đặt là:output_graph - Sử dụng
output_graphtrong file C++ để suy diễn. #Optional: Có thể map ánh xạ output của mạng vào các nhãn label. - Tạo một file build trong thư mục
tensorflow/tensorflow/{our_project}. Việc này mất một khoảng thời gian để bundle tất cả các file thư viện của tensorflow vào một file có thể chạy. - File thực thi đã sẵn sàng để chạy!
Chi tiết các bước: Exporting trained TensorFlow models to C++ the RIGHT way!