model.eval()

import torch

# 모델 불러오기
model = torch.load("학습된 모델 경로/모델 이름.pt")

# 모델 추론 모드 설정
model.eval()

가 실행되지 않는 경우 해볼 수 있는 방법입니다.

출처 : https://www.inflearn.com/questions/851901/pt-%ED%8C%8C%EC%9D%BC-%EB%B6%88%EB%9F%AC%EC%98%A4%EA%B8%B0-%EC%83%88%EB%A1%9C%EC%9A%B4-%EC%9D%B4%EB%AF%B8%EC%A7%80-%EA%B0%9D%EC%B2%B4-%EC%B6%94%EC%B6%9C

저는 아래의 방법을 통해 실행이 됐는데 다른 분들도 되시길 기원하며 올립니다!
(인프런 아이디가 가물가물해서 직접 입력을 하지 못 해서 아쉽습니다)

import torch
from models.yolo import Model # 올바른 모델 아키텍처를 가져왔는지 확인합니다

# Load checkpoint
checkpoint = torch.load("/weights/best.pt")

# 모델 아키텍처 가져오기
model = Model(cfg=checkpoint['model'].yaml) # 'model.yaml'이 올바른 키가 아닌 경우 자기의 입력값을 넣으면 됩니다.

# model weights 가져오기
model.load_state_dict(checkpoint['model'].state_dict())

# Set to evaluation mode
model.eval()