[일단 박죠] Get3DHuman을 활용한 아바타 자동 생성 #2

jeyong·2024년 1월 9일
0
post-custom-banner

1. 생성 결과 분석

  • 다양한 결과: 생성된 3D 휴먼 모델들은 전반적으로 좋은 결과를 보여준다. 대부분의 경우 사실적이고 정교한 인간 형상을 잘 구현했지만, 가끔은 인간의 형상을 잃는 경우도 발생한다.
  • 색상 정보의 부재: 생성된 OBJ 파일에서 색상 정보가 누락되는 문제가 있다. 왜냐하면 OBJ 파일은 색상정보를 담을 수는 있지만, 색상정보를 보여주지는 못한다. 그래서 이미지에서는 색상이 표현되지만, Blender와 같은 3D 모델링 소프트웨어에서 OBJ 파일을 열 경우, 색상 정보가 표시되지 않는다.

2. 문제점

OBJ 파일의 색상 표현 한계

추론 코드 중 OBJ 파일을 생성하는 코드이다. 보는 것과 같이 OBJ 파일로 생성한다. 하지만 OBJ 파일 형식의 한계로 인해 색상 정보가 포함되지 않는다. 이는 OBJ 파일의 특성상 텍스처 정보를 별도의 파일(MTL 파일)로 관리해야 하기 때문이다.
이를 해결하기 위해서는 생성 프로세스에 색상 정보를 포함하는 추가 작업이 필요할 것 같다. (해당 작업은 간단할 것으로 예상)

자신의 이미지 사용 불가

해당 프로젝트의 목표는 모양 및 질감 특징 볼륨을 생성한 다음 고정 pifu 디코더를 활용하여 3D 질감 메쉬를 얻는 것이라고 한다. 그래서 현재 프로젝트는 특정 데이터셋에 의존하는 고정된 모델을 사용하므로 사용자의 이미지를 직접 사용하여 3D 모델을 생성하는 것이 불가능하다.

생성 결과와 예시 결과의 품질 차이

예시 결과는 고품질의 상용 데이터세트인 훈련 데이터세트로 Renderpeople을 사용하여 얻은 것이라고 한다. 그래서 데이터 세트의 한계로 인해 Renderpeople을 사용하여 사전 훈련된 가중치를 제공할 수 없다고 한다.
해당 이유로, 출시된 사전 훈련된 가중치는 Thuman 및 custom-humans 와 같은 비상업적 데이터 세트에서 훈련된다고 한다. 그래서 결과가 예시 결과보다 떨어진다.

일단 해당 내용들을 세미나에서 발표한 뒤, 여러가지 의견들을 들어보고 결정해야겠다.

profile
노를 젓다 보면 언젠가는 물이 들어오겠지.
post-custom-banner

1개의 댓글

comment-user-thumbnail
2024년 2월 6일

연구 진행과정 재밌어요 ㅎㅎ 화이팅입니다!

답글 달기