프롬프트 엔지니어링이 쉽지 않은 이유

https://youtu.be/I5cq54MFQCo?si=sPeM5LbMW8QiIDVL

예전에 봤던 영상인데 프롬프트를 해보면서 기억이 나서 찾아봤습니다.

땅콩잼을 식빵에 바르는 과정을 설명해봐.

• 얼핏 보면 쉬울 것 같지만, 우리가 당연하다고 생각해 있는 숨겨진 단계들이 많다. "식빵에 버터나이프로 골고루 펴 바른다" 아버지는 땅콩잼을 바르지 않고 버터나이프만 식빵에 문지르기만 한다. 여기서 아이가 당황스러워 하는 모습이 재미있다. 아버지는 분명히 쓰여진 대로 했다.
  

• 이 과정을 통해 컴퓨터가 어떻게 우리의 언어를 이해하는지 그리고 우리가 어떻게 컴퓨터에게 설명을 해야하는지 알 수 있는 부분이다. 지금처럼 챗GPT가 상용화되기 전에는 컴퓨터에게는 정말 문자 그대로 하나부터 열가지 모든 것을 다 알려줘야만 했다. 하지만 이제는 우리가 무엇을 말하려는지 "예측"할 수 있다.

• 여기서 인공지능에 대해서 많이 오해하는 부분인데 컴퓨터는 여전히 사람처럼 "이해"를 하지 못한다. 다만, 방대하게 학습된 정보를 통해 무엇을 원하는지 수학적으로 "예측"한다.

• 그래서 컴퓨터에게도 맥락없이 요청을 하면 엉뚱한 답을 주는 경우가 많지만, 맥락과 원하는 결과의 예시를 함께 주면 높은 확률로 원하는 답을 준다.

• 프롬프팅이 어려운 것이 아니라 앞서 땅콩쨈을 식빵에 바르는 단계처럼 세세하게 남에게 설명 해보는 것을 연습해보지 않았기 때문이다.

• 그 이유는 우리가 검색할때도 세세하게 질문하지 않고 보통은 "키워드" 단위로 많이 물어본다. 그렇기 때문에 말로는 쉽게 설명해도 이걸 텍스트로 옮겨서 설명하는 과정은 여간 귀찮고 똑똑한 AI가 알아서 답을 주기를 바란다.

• 쉬운 질문들은 괜찮겠지만, 프롬프팅을 혹시나 잘하고 싶다면 사람에게 설명을 하듯 조금만 더 맥락과 부가적인 설명을 해주는 연습을 해보자.

• 아래는 챗GPT에게 땅콩잼을 식빵에 바르는 순서에 대해서 물어보니, 단계적으로 잘 설명을 해준다.