wrtn

뤼튼은 AI 에이전트. 한국, 일본에 특화 되어 있는 브라우징 에이전트.

해당 글은 뤼튼 세미나를 듣고 기록한 글이다.

Agent components

뤼튼에서는 4개

• planner
  추론 능력
• tools
  task 수행하기 위해 필요한 툴
• interface
  유저와 실제로 상호작용. UI/UX
• memory
  task에 필요한 정보 불러오기, 저장하기

뤼튼의 비전

Planner(AGI) + memory(to people) + interface(close) + tools(bring)
= bring AGI(Artificial Generate Intelligence) close to people

Prompt Engineering

프롬프트란?

검색 바를 프롬프트라고 한다. 그 바에 작업을 입력하면 그 작업이 생성형 AI가 생성하기 전까지 input해주는 모든 걸 prompt라고 한다.

튜닝이랑 뭐가 다르나?

튜닝은 모델 자체를 조정. <=> 프롬프팅은 input을 조정.

프롬프트 엔지니어링이란?

특정 질문이나 지시를 최적화 하는 과정

• 메이커 관점: LLM 모델에서 지시를 컴퓨터 언어적으로 설계 (코딩)
• 사용자 관점: 생성 직전까지의 텍스트들, 문맥에 대한 설명만 있으면 처음보는 내용이더라도 생성.

1. Giving Instruction

흔히 사용되는 프롬프팅 기술. 구체적인 instruction을 줌으로서 output을 생성.
사용자의 요구 사항이나 목표를 전달하기 위해 설계된 질문이나 명령어를 사용.

2. Assigining Roles

LLM에게 역할을 부여하거나, ai가 생성하는 텍스트의 스타일을 제어하는데 사용.
ex. 탐정처럼 행동하라. 넌 커뮤니케이션 전문가다. 넌 수학가다. => 더 자세한 내용이 나옴.

예를 들어 그냥 사칙연산을 시키면 틀리는데, 챗지피티에게 수학자라는 role을 주면 더 길고 자세한 정답이 나온다.

3. Showing Examples

예시와 함게 instruction 작성하는 prompting 기술. 모델에게 설명하기 어려운 특정 방식으로 출력을 구조화 해야할 때 사용.

우리가 주는 예시에 따라 성능이 달라지므로 주의해야한다.

4. Formalizing Prompts

위에 있는 기술을 결합하면 더 강력한 프롬프트로 이어질 수 있다.

5. Chain of Thought

자연어가 가진 모호함을 단계별로 나누어 구체적으로 진화. 한 번에 좋은 답을 찾으려 하지 말고, 스텝 바이 스텝으로 사용.

왜 이렇게 해야하나?

AI 모델은 자기만의 방식으로 언어를 쪼개서 읽는다.
I, don, 't, like, egg, s와 같이 읽음.
분해된 단어들을 토큰이라고 부르며, AI는 이 토큰을 숫자로 나열로 변환해 이해 한다.
=> 이 토큰들은 다 돈이다. 토큰이 길어지면 돈이 많이 든다.

AI 별로 이해할 수 있는 length의 한계가 있다. 따라서 단계별로 답변을 유도.

뤼튼 활용법

진로 및 자기 개발, 수업 수강 및 과제, 커뮤니케이션, 자기소개서 등등 도움을 받을 수 있다.