
특정 모달리티에 국한되지 않고 범용적으로 사용할 수 있는 모델

서론 연구배경 및 필요성 image segmentation 문제에 자주 사용되는 CNN(Convolutional Neural Network)는 intrinsic locality라는 단점이 있어 국소적으로 feature map을 추출하게 된다는 단점이 있다. Fig 1
openAi - LLM이 안전 사양을 명시적으로 학습하고, 답변하기 전에 해당 사양에 대해 추론하도록 훈련 하는 새로운 패러다임 Deliberative Alignment 제안
불확실한 질문 걸러내 정답 CoT 제공하는 추론 개선 방법
alignment의 ground truth로 작용하는 human feedback 그 자체에 대한 고찰
META 발표 → continuous latent space에서 추론하도록 하는 새로운 패러다임을 제시하여 자연어로 표현하는 비용 없이 더 깊이 있는 사고를 하게 만들고자 함.

Autoregressive라는 LLM의 틀을 깨는 발상이 담긴 논문