[OpenVINO] 모델 추론하기

import openvino.runtime as ov

core = ov.Core()

# Good to search available devices
core.available_devices

# Import Model
MODEL_PATH = "~~~"
MODEL_WEIGHTS = "~~~"

model = core.read_model(model=MODEL_PATH, weights= MODEL_WEIGHTS)
compiled_model = core.compile_model(model, 'AUTO:원하는 디바이스 이름, 없으면 그냥 AUTO')

# input shape을 알 수 있음, 여러 개 일 수도 있으므로 출력해서 살펴보는 것을 추천
input_layer = compiled_model.input()

# output shape을 알 수 있음
output_layer = compiled_model.output()

# import data and data preprocessing
~~~

# model inference
output_dict = compiled_model([image])

# output type is dict and key is one of output_layer
output = output_dict[output_layer[0]]