책임감 있는 프롬프팅을 위한 팁

가끔 생성형 AI 도구가 원하는 출력을 제대로 제공하지 않을 때가 있습니다. 그럴 만한 이유가 있습니다. 생성형 AI 도구는 정보를 처리하고 패턴을 인식하는 데는 뛰어나지만, 비판적 사고나 인간적인 감각은 부족합니다. 그렇기 때문에 생성형 AI 도구를 사용할 때는 책임감 있게 프롬프트를 작성하는 방법을 익히는 것이 중요합니다.

윤리적 위험과 AI의 한계

생성형 AI 도구는 완벽하지 않습니다. 때로는 생성된 출력에 오류, 편향, 고정관념, 오해의 소지가 있는 정보 및 기타 유해한 내용이 포함될 수 있습니다. 그래서 인간 참여형 접근방식이 매우 중요합니다. 생성형 AI가 제공하는 출력은 반드시 사람이 직접 검토하고 검증한 후 사용해야 합니다.

편향과 고정관념

생성형 AI 도구는 특정 집단에 대한 기존의 편견을 그대로 재현할 수 있습니다. 예를 들어 특정 활동을 특정 연령대와 연결 짓는 등 유해한 고정관념을 강화할 수 있습니다. 출력에서 연령 차별, 인종 차별, 성차별과 같은 편향을 피하려면 다음 지침을 따라보세요.

다양성 명시하기: 프롬프트에 포용성이 담긴 표현을 포함해보세요. 예를 들어, 이미지 생성을 요청할 때 단순히 '맛있는 음식이 놓인 테이블'이라고 입력하는 대신 '전 세계 다양한 지역의 맛있는 음식이 놓인 테이블'처럼 표현해볼 수도 있고, 특정 지역이나 음식 문화를 구체적으로 묘사해도 좋습니다. 이렇게 하면 원하는 방향에 가까운 출력을 얻을 수 있습니다.

고정관념에 도전하기: AI가 편향된 출력을 제공했다면, 다음에 프롬프트를 반복할 때 해당 편향을 짚어주고, 수정해달라고 요청해보세요. 예를 들어, 맛있는 음식 이미지를 요청했는데 특정 지역의 음식만 많이 포함되어 있다면. 다양성의 부족을 지적하고, 반복 을 통해 더 다양한 지역의 음식을 포함해달라고 요청할 수 있습니다. 이미지에 동남아시아 음식이 대부분이라고 가정해보면, "서아프리카나 북유럽 음식도 포함해줘"라고 생성형 AI 도구에 추가 요청을 할 수 있겠죠. 이런 피드백은 생성형 AI 도구의 향후 출력 품질 개선에도 도움이 될 수 있습니다.

할루시네이션

생성형 AI 도구가 잘못된 정보가 포함된 출력을 제공하는 경우, 이를 할루시네이션이라고 부릅니다. 할루시네이션은 언제든지 발생할 수 있으며, 프롬프트가 모호하거나, AI 도구가 충분히 학습되지 않은 주제에 대해 출력할 때 더 자주 나타납니다. 예를 들어, 생성형 AI 도구가 수학 문제를 틀리게 계산하거나 레시피에 잘못된 재료를 포함할 수도 있습니다. 할루시네이션을 다루는 방법은 다음과 같습니다.

사실 여부 확인 및 교차 검증: 일부 생성형 AI 도구에는 정보의 출처를 제공하는 기능이 있습니다. 검색 엔진을 통해 출력의 사실 여부를 확인하거나 가능하다면 전문가의 도움을 받는 것도 좋은 방법입니다. 둘 이상의 리소스를 통해 프롬프트를 실행하면 출력에 포함된 오류나 불일치를 더 쉽게 찾아낼 수 있습니다.

더 명확하고 구체적인 표현 사용: 생성형 AI 도구는 입력 내용을 잘못 이해할 수 있고, 입력 자체에 오류가 있다면 부정확한 출력을 생성할 수 있습니다. 예를 들어 "왜 토론토가 캐나다의 수도야?"라고 질문하면, 생성형 AI 도구는 입력에 포함된 정보를 사실로 받아들여 오타와 대신 토론토가 캐나다의 수도라는 허위 정보를 만들어낼 수 있습니다.

불일치 및 관련성 문제

생성형 AI 도구는 빠르게 발전하고 있지만, 여전히 사용자의 입력을 잘못 해석하거나 요청의 맥락을 제대로 이해하지 못할 때가 있습니다. 예를 들어, "상자 밖에서 생각해봐(think outside the box)" 같은 관용 표현을 입력하면 생성형 AI 도구가 이를 글자 그대로 해석해 ‘상자의 바깥’과 관련된 해결책을 제안할 수 있습니다. 불일치와 관련성 문제를 다루는 방법은 다음과 같습니다.

참고 자료 제공하기: 이 상황에는 프롬프팅 프레임워크의 참고 자료 단계가 유용합니다. 단, 제공하는 참고 자료가 원하는 출력의 방향을 제대로 반영하고 있는지 반드시 확인해야 합니다.

더 많은 맥락 제공하기: 입력에 맥락을 더 많이 제공하고 세부적인 설명을 추가하거나 프롬프트의 표현을 조금씩 바꿔보세요. 예를 들어, "상자 밖에서 생각해봐" 대신, 표현을 반복적으로 다듬어 "독창적이고 기존 틀에서 벗어난 접근 방식을 제안해줘"라고 요청하면 더 나은 결과를 얻을 수 있습니다.

책임감 있는 프롬프팅과 업무 환경에서의 고려사항

생성형 AI 도구가 모든 상황에 적합한 것은 아닙니다. 업무에 AI를 활용할 때는 프롬프트를 설계하기 전에 몇 가지 사항을 고려해야 합니다.

생성형 AI 도구를 통해 해결하려는 문제가 무엇인지 생각해보세요. 해당 작업이 업무 목표나 동료 및 고객에 대한 책임과 부합하나요? 회사의 AI 사용 정책은 어떤지 살펴보셨나요? 민감한 정보가 외부에 노출될 가능성은 없나요? 지금 사용하는 AI 도구가 회사 내부 전용인지 공개된 도구인지 확인하셨나요?

무엇보다 중요한 것은 AI를 사용할 때는 언제나 인간 참여형 접근방식을 중심에 두는 것입니다. 어떤 상황에서든 생성형 AI 도구의 출력을 사용하기 전에 반드시 사람이 직접 검토한 뒤에 활용해야 합니다. 집이든, 직장이든, 다른 환경이든 마찬가지입니다.

업무에서 생성형 AI를 책임감 있게 사용하기 위한 체크리스트

문제를 해결하거나 작업을 처리하기 위해 AI를 사용할 때의 영향을 고려하고, 항상 비판적인 사고를 유지하며 최선의 판단을 내리세요. AI를 사용하기 전에 현재 수행하는 작업에 AI를 활용하는 것이 적절한지 먼저 검토해보세요. 예를 들어, 생성형 AI 도구가 특정 집단에 피해를 줄 수 있는 편향을 유지하거나, 오히려 그런 편향을 더 강화할 가능성은 없나요?

프로젝트나 고객 관련 작업에 AI를 사용하기 전에, 관련 사내 담당자에게 AI 사용 승인을 받으세요.

사용 중인 생성형 AI 도구가 공개된 것인지, 사내 전용인지, 그에 따른 개인정보 보호 및 보안 관련 유의 사항은 없는지 검토하세요. 또한, 회사에서 사용하는 특정 생성형 AI 도구의 엔터프라이즈 버전이 있는지도 함께 확인하여 다른 업무에 활용할 수 있는지 알아보는 것도 좋습니다.

작업에 반영하거나 다른 사람과 공유하기 전에 모든 AI 생성 콘텐츠를 평가하세요.

팀원과 고객에게 AI 사용 사실을 공개하고, 어떤 방식으로 활용했는지에 대해서도 투명하게 공유하세요.

의심스러울 땐 메모리 삭제하기

생성형 AI 도구의 메모리를 주기적으로 삭제하는 것도 출력의 정확성과 관련성을 높이는 좋은 방법입니다. 메모리를 삭제하면 AI가 백지 상태에서 새로운 프롬프트에 접근할 수 있습니다. 메모리 삭제의 주요 이점은 다음과 같습니다.

• 개인정보 보호: 이전 대화에 포함된 민감한 정보를 삭제할 수 있습니다.
• 편향 방지: 이전 프롬프트에서 유입된 추론이나 고정관념이 이어지지 않도록 막을 수 있습니다.
• 혼란 감소: AI 도구가 현재 작업과 맥락에 온전히 집중할 수 있게 도와줍니다.
• 혼란 감소: AI 도구가 현재 작업과 맥락에 온전히 집중할 수 있게 도와줍니다.

주요개념

• Checklist for responsible AI use: A set of guidelines to evaluate the appropriateness of using generative AI tools in work-related tasks, ensuring ethical and secure practices.
• Responsible prompting: The practice of crafting prompts that consider ethical implications and the context of the task to ensure accurate and relevant outputs.
• Human-in-the-loop: A method where human oversight is required to verify the outputs of generative AI tools before they are used.
• Biases and stereotypes: Generative AI tools can reproduce existing biases, making it essential to specify diversity and challenge assumptions in prompts.
• Hallucinations: Outputs from generative AI that contain false information, often due to vague instructions or lack of training on specific topics.