ํน์ ํ ์ธ๋ถ ์ฌํญ์ ํฌํจํ ์ฌ๋ก๋ก๋ถํฐ ๊ณ ์์ค ๊ฐ๋ ๊ณผ ๊ธฐ๋ณธ ์์น์ ๋์ถํ๊ธฐ ์ํด ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ด ์ถ์ํ๋ฅผ ์ํํ ์ ์๋๋ก ํ๋ ๊ฐ๋จํ ํ๋กฌํํธ ๊ธฐ๋ฒ์ธ Step-Back์ ์์๋ด ์๋ค!
์ค๋์ RAG๋ผ๋ ๊ธฐ์ ์ ๋ณธ์ง๊ณผ ์คํํธ์ ์ AI Researcher๋ก์จ ๋ฐ๋ผ๋ด์ผํ๋ ์๊ฐ์ ๋ํด ์ด์ผ๊ธฐํด๋ณด๋ ค๊ณ ํฉ๋๋ค ๐
Azure Cloud Platform์ ml-studio ํ๊ฒฝ์์huggingface ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ฌ์ฉ์ค mlflow ์๋ฌ๊ฐ ๋ฐ์ํ๋ค๋ฉด?!
์ฌ์ฉ์ ์ง์๋ฅผ ๋ถ์ํด์ ์ค๊ฐ์ค๊ฐ ๊ฒ์์ ๋ง๋ถ์ด๋ ํฅ๋ฏธ๋ก์ด Prompt Retriever ๋ฐฉ๋ฒ๋ก ์ ๊ฐ์ ธ์์ต๋๋ค! ๋ฐ๋ก IRCoT๋ผ๊ณ ํ๋๋ฐ์, ๊น๊ฒ ์์๋ณด์์ฃ !
Retrieval-Augmented Generation (RAG)์ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ ์ ์ ์ธ ํ๊ณ๋ฅผ ๊ทน๋ณตํ๊ธฐ ์ํด ๊ฒ์ ๋ฐฉ๋ฒ๊ณผ ๋ฅ๋ฌ๋ ๋ฐ์ ์ ๊ฒฐํฉํ์ฌ ๋ฑ์ฅํ ๊ฐ๊ด๋ฐ๋ ๋ฐฉ๋ฒ๋ก ์ ๋๋ค. RAG์ ๋ํ ์ต์ ๋ํฅ์ ์ดํด๋ด ์๋ค.
์ฌ์ค์ ์ผ๋ก ๊ทธ๋ด๋ฏํ์ง๋ง ์๋ชป๋ ์ ๋ณด๋ฅผ ์์ฑํ๋ ๊ฒ, ์ฆ ํ๊ฐํ์(=Hallucinations)์ LLMs์์ ํด๊ฒฐ๋์ง ์์ ๋ฌธ์ ์ ๋๋ค. ํ๊ฐํ์์ Prompting์ ํ์ฉํ์ฌ ๊ฒ์ฆํ๋ ๋ฐฉ๋ฒ๋ก ์ธ CoVe์ ๋ํด ์์๋ด ์๋ค!
LLM์ด ์์ฑํ๋ ๋ต๋ณ๊ณผ ํด๋น๋ต๋ณ์ ์ ๋ขฐ๋๋ฅผ ๋ฏฟ์ ์ ์์ผ์ ๊ฐ์? ๋ชจ๋ LLM์ ๊ทธ ์์ฒด์ ๋ต๋ณ๋ง์ผ๋ก๋ Hallucination์ ์ ์ดํ๊ธฐ์ ์์ง๊น์ง ๋ฌด๋ฆฌ๊ฐ ์์ต๋๋ค. ์ด๋ฌํ ํ๊ฐํ์์ ์ต์ ํ๊ณ ์ ๋ขฐ์ฑ ์๋ ๋ต๋ณ์์ฑ์ ์ํ ๋ฐฉ๋ฒ์ ์์๋ด ์๋ค.
Matei Zahariaย ,ย Omar Khattabย ,ย Lingjiao Chenย ,ย Jared Quincy Davisย ,ย Heather Millerย ,ย Chris Pottsย ,ย James Zouย ,ย Michael Carbinย ,ย Jonathan Frankleย ,ย Nav
LLM ๊ธฐ์ ์ ๋ฐ์ ๊ณผ ํ์ค์ธ๊ณ ์์ฉ๊ธฐ๋ฒ์ธ RAG์ ๋ํ ์ ์ GenAI Researcher์ ์๊ฒฌ์ด ๊ถ๊ธํ๋ค๋ฉด?!
์ค๋ ๋ฆฌ๋ทฐํ ๋ ผ๋ฌธ์ ํ๋ LLM์ด ๋์ค๊ธฐ๊น์ง ๊ฐ์ฅ ํฐ ์ถ๋ฐ์ด๋ผ ๋ถ๋ฆฌ๋ Transformer๊ฐ ์๊ฐ๋ 2017๋ ๋ ผ๋ฌธ "Attention is all you need"์ ๋๋ค.
์ง๋ 5์ 1์ผ ~ 3์ผ ์ผ์ฑ๋ ์ฝ์์ค์์ ์ด๋ฆฐ AI EXPO KOREA 2024๋ฅผ ๋ค๋ ์์ต๋๋ค ๐ ์ ๋ง ๋ง์ ๊ธฐ์ ๋ค์ด ๋ถ์ค๋ฅผ ์ฐจ๋ฆฌ๊ณ ์๋น์ค๋ฅผ ์๊ฐํ๋ฉฐ ํ๋ณดํ๊ณ ์์์ต๋๋ค. ์ฌ๋๋ ์์ฒญ๋ง๊ณ ๋ณต์๋ณต์ํ๋ ํ์ฌํ๊ธฐ๋ฅผ ์ ์ด๋ณผ๊ฒ์!
ํ์ฌ๋ฅผ ๋ค๋๋ฉด์ ๋์์ Velog ์ด์ ์ ์กฐ๊ธ์ฉ ํ๋ค๋ณด๋ ํฌ์คํ ์ ํ๋ ์๋๊ฐ ๋๋๋ค์..ใ ์ด๋ฒ์ฃผ๋ถํด Paper Review๋ฅผ ์ ๋ฆฌํด์ ์ฌ๋ ค๋ณด๋ ค๊ณ ํฉ๋๋ค! ํต์ฌ๋ด์ฉ์ ์ ๋ฆฌํ๊ณ ์ ํ๋ ๋ณด์๋ ๋ถ๋คํํ ๋ ๋์์ด ๋๋ฉด ์ข๊ฒ ๋ค์!
ํ์ด์ฌ์ ์ฐฝ์์ ๊ท๋ ๋ฐ ๋ก์ฌ์ ์ธ์ด์ค๊ณ๋ฅผ ๊ต์ฅํ ์ ํ๋ ์ํํธ์จ์ด ์์ง๋์ด๋ก ์๋ ค์ ธ์๋ค. ํ์๋ GenAI๋ฅผ ๋ค๋ฃจ๋ Engineer์ง๋ง ๊ทธ ๊ทผ๊ฐ์ Python์ ์ฌ์ฉํ๊ธฐ์ ๋ ๋ฒจ์ ์ ์ํด ๋ค์ํ๋ฒ Python ๊ณต๋ถ๋ฅผ ํด๋ณด๋ ค๊ณ ํ๋ค.