
원문: [1hr Talk] Intro to Large Language Models - 안드레아 카르파티 (Andrej Karpathy), OpenAI 근무, 연혁 - https://karpathy.ai/ 해당 영상을 약간의 사견과 함께 통으로 번역한 글이다.

[ GPT API를 활용한 인공지능 앱 개발 (o'reilly) - 올리비에 케일린 , 마리 알리스 블레트 ] 책 리뷰, 누구나 시작할 수 있는 LLM 활용과 개발

진짜 공부하고 싶게 만드는 책이다. 흩어져있는 자연어의 A to Z 를 정석같이 일목요연하게 정리되어 있어서, 모든 챕터 하나 하나가 이정표 역할을 한다. 특히 NLP 입문자에 가까운 나에게 길 잃지말라고 계속 가이드를 준다.

LLM 실전 아키텍처 설계부터 배포까지, 진짜 한 권으로 끝내는 고밀도 엔지니어링 가이드 북이다.

250615 기준, 현재 Diffusion LLM 의 상태와 최대한 쉽게 매커니즘 정리, 기존(Autoregressive) 과 비교해보자!

25년 9월 5일 OpenAI 공식 홈페이지에 올라온 따근따근한 글, "할루시네이션은 왜 생기는가!". 해당 논문은 할루시네이션의 "기술적, 통계적" 이유와 이를 야기하는 "훈련 및 평가 방식(기존 벤치마크)" 을 지적하는게 핵심 주제다.

바이브 코딩과 증강 코딩은 다르다. We used AI to code 2x faster. Then spent 3x more time fixing bugs. 여전히 뜨거운 감자인 바이브 코딩, 지금의 나에게는 "Augmented Coding" 이 정답에 가깝게 느껴진다.