LLM API๋ฅผ ์ด์ฉํด ์ํ๋ ๊ธฐ๋ฅ์ ๋ง๋ค๊ณ ์ฌ์ฉํด๋ณด๊ณ ์ถ์ง๋ง ํญ์ ๋น์ฉ์ด ๊ฑฑ์ ๋ฉ๋๋ค.๋น์ฉ ๋ฌธ์ ๋ ํด๊ฒฐํ๊ณ ์ง์ ํ์ต๋ ํ ์ ์๋ ๋งค๋ ฅ์ ์ธ Local LLM(LLaMa3)๊ณผ ํจ๊ป LangChain์ ์ฃผ์ ๋ด์ฉ๋ค์ ์์๋ณด๊ฒ ์ต๋๋ค.
์๋ง์ state๊ฐ์ ๋ณต์กํ ๊ด๊ณ์ ์์๋ฅผ ๊น๋ํ๊ฒ ํด๊ฒฐํ๊ธฐ ์ํด, Finite State Machine์ ์ฌ์ฉํด ๋ณด์์ต๋๋ค.
SSE(Server-Sent events)๋ ํ๋ฒ์ ์ฐ๊ฒฐ๋ก ์ฌ๋ฌ๋ฒ์ ์๋ต์ ์ค์๊ฐ์ผ๋ก ๋ฐ์ ์ ์์ต๋๋ค.์ด๋ฒ ๊ธ์์ EventSource Web API๋ฅผ ํ์ฉํด SSE๋ฅผ ์ด์ฉํ๋ ๋ฐฉ๋ฒ์ ์์๋ณด๊ฒ ์ต๋๋ค.
Next.js๋ ๊ธฐ๋ณธ์ ์ผ๋ก ์น ํ๋ก ํธ๋ ๊ฐ๋ฅํ์ง๋ง, ์๋ฒ๊น์ง ํจ๊ป์๋ ํ์คํ ํ๋ ์์ํฌ ์ ๋๋ค. ์ฌ๊ธฐ์ Next.js ์๋ฒ๊ฐ ์ ๊ณตํ๋ ์ฌ๋ฌ๊ฐ์ง proxy ๊ธฐ๋ฅ์ ํ์ฉํ์ฌ ๋ค์ํ ๊ฒ์ ํ ์ ์์ต๋๋ค.
2์ ~ 4์๊น์ง ์ฝ 2๋ฌ ๋์ NextStep์ TDD ํด๋ฆฐ์ฝ๋ with React ๊ณผ์ ์ ์งํํ์ต๋๋ค. ๊ณผ์ ์ ์งํํ๋ฉด์ ์ฌ๋ฌ๋ชจ๋ก ๋ฐฐ์ด ์ ๋ค์ด ์ ๋ง ๋ง์ง๋ง, ์ด๋ฒ์ ๋ฆฌ์กํธ ํด๋ฆฐ์ฝ๋ ๊ณผ์ ์งํ๊ณผ ํด๋ฆฐ์ฝ๋์ ๋ํด ๋ฐฐ์ฐ๊ณ ๋๊ผ๋ ์ ๋ค์ ๋ํด ๋๋์ด๋ณด๋ ค๊ณ ํฉ๋๋ค. ๐