2023년... 나에게 2023년은 대변동의 시기였다. 10년 동안 머물던 학교를 졸업하고, 돈 내고 배우던 것들로 미약하게나마 돈을 벌기 시작했고, 30대가 되었고(만 나이는 29), 새로운 취미가 생기고 그 취미를 같이하는 사람들과 시간을 보내며 살아왔다. 평소에
도커를 갑자기 사용해야해서 급하게 공부한 내용들입니다. 실제로 프로젝트에 활용한 경험들과 함께 녹여봤습니다.
지난 번에 프로젝트 실패 경험이라며 글을 적었었다. 그 글에서 굳이 내가 실패라고 기술한 이유는 다시는 이런 경험을 하지 않기 위한 다짐이라는 이야기를 했었다.하지만 그럼에도 불구하고 극복한 경험에 대해서도 남겨야한다고 생각한다.
MoE(Mixture of Experts) 기술에 대해서 얼핏 듣긴 하였으나 이것으로 LLaMA-2 70B 모델의 성능을 넘었다는 Mixtral model에 대한 설명