Vitis - Ai Tutorial에 대해 공부해보자.
영상으로 배운 내용을 바탕으로 Tutorial의 과제1을 하는게 목표임.

다양한 Tool을 사용해서 Docker와 vitis - ai 그리고 CIFAR10 Dataset 등을 활용할 예정

정리

RESNET18: 18계층으로 구성된 컨벌루션 신경망, Imagenet database의 훈련된 신경망의 사전 훈련된 버전 영상입력 크기 224 X 224

이미 훈련된 database로 공부 Keras의 tensorflow 2.12.0버전 사용
HDF highperformance data management

Model Quantization을 사용해서 INT8로 바꾸는게 목표

PTQ: post training Quantization
QAT: Quantization - aware - training

정리 2

1. model이 DPU와 소통이 가능한가 Check

2. 8-bit(int8)로 바꾸기 안되면 fine-tune 또는 CNN with QAT

3. int8 model on Vitis - Ai 환경, 예측가능 정확도 확인
   5%이상이면 PTQ와 QAT를 이용하여 다시 재배치

4. RUN the model complication, int8 model to generate the .X model

5. C++과 Python code를 사용해서 vitis - ai runtime
   예측 정확도와 초당 FPS 처리량 추론 성능 확인
   Model ZOO 의 Resnet50을 사용

출처 https://github.com/Xilinx/Vitis-AI-Tutorials/tree/3.5/Tutorials/RESNET18/