🛡️ 한 줄 요약 — 만들 줄 알게 됐으니, 이제 안전하게. 오늘 배운 건 결국 세 개예요: 멈추고 · 가리고 · 확인하기.
어제 워크플로우에서 짚은 '사람이 지켜야 할 자리'를, 오늘은 데이터와 검증으로 구체화했습니다.

---

🎯 오늘 하루가 끝나면

#	목표	의미
01	데이터 흐름을 안다	내가 넣은 게 어디로 가는지 감을 잡는다
02	올릴 것을 가린다	개인정보, 기밀을 알아보고 가려서 쓴다
03	답을 검증한다	AI 답을 곧이곧대로 믿지 않고 확인한다
04	안전 습관	멈추고, 가리고, 확인하는 습관을 몸에 붙인다

⚠️ 왜 지금 중요할까 — 여기서 사고가 나요

AI를 재미로만 쓸 땐 몰라요. 그런데 이제 실제 업무 데이터를 넣고, 나온 결과를 보고서에 쓰기 시작했잖아요. 딱 여기서 사고가 납니다.

💧 데이터 유출
넣지 말아야 할 걸 넣어서, 회사 기밀 · 고객 정보가 새는 것

🌫️ 환각(Hallucination)
믿지 말아야 할 걸 믿어서, 지어낸 숫자가 보고서에 들어가는 것

오늘은 이 두 가지를 막는 눈을 기릅니다. 안 넣을 것과 안 믿을 것.

🧭 오늘의 흐름 — 알고, 가리고, 확인한다

PART	주제	핵심 질문
PART 1	데이터 이해	내 입력이 어디로 가나
PART 2	입력 위험	뭘 올려도 되나
PART 3	환각 검증	답을 어떻게 믿나

---

PART 1 · 데이터 이해 — 내 입력이 어디로 가나

AI에 넣은 건 어디로 갈까

AI에 넣은 내용은 그 자리에서 처리되고 끝나는 게 아니에요. 대화로 남고, 서비스에 따라 성능 개선에 쓰이기도 해요. 무료 · 유료 · 기업용에 따라 정책도 다르고요.

사실	설명
대화는 남는다	내가 넣은 내용이 기록으로 남을 수 있어요
학습에 쓰일 수도	일부 서비스는 입력을 성능 개선에 활용해요
설정으로 끌 수도	학습 사용을 끄거나 기록을 지우는 옵션도 있어요

정책은 서비스마다 다르고 자주 바뀌어요. 중요한 건 "내 입력이 밖에 남을 수 있다"는 감각이에요.

무료 · 유료 · 기업용, 취급이 달라요

같은 AI라도 어떤 요금제로 쓰느냐에 따라 내 입력을 어떻게 다루는지가 달라져요. 대략 이런 경향이 있습니다.

요금제	경향
무료	입력이 성능 개선(학습)에 쓰일 가능성이 상대적으로 높음 → 민감한 건 피하기
유료(개인)	학습 사용을 끄는 옵션이 있는 경우가 많음 → 설정을 한 번 확인
기업용 · 팀	계약상 학습에 안 쓰이고 보안 · 관리가 강화된 경우가 많음

정확한 건 서비스 정책을 직접 확인해야 해요. 핵심은 '요금제에 따라 다르다'는 걸 아는 것.

사고는 대개 이렇게 나요

거창한 해킹이 아니에요. 대부분 '편하려고 그냥 붙여넣다가' 샙니다.

흔한 행동	새는 것
❗ 회의록을 통째로 붙여넣기	참석자 실명 · 내부 논의가 그대로 밖으로
❗ 고객 문의 원본 붙여넣기	이름 · 연락처가 담긴 채로 분석 요청
❗ 내부 코드 · 문서 붙여넣기	소스 · 기밀이 담긴 채로 검토 요청

실제로 여러 회사가 이런 일로 사내 챗봇 사용을 제한하기도 했어요. 편함과 안전을 맞바꾸지 않기.

🖐️ 첫 번째 습관 — 올리기 전에, 한 번 멈추기

복잡한 규정을 다 외울 필요 없어요. 무언가 올리기 전에 딱 한 번 멈추고 스스로에게 물어보는 거예요.

❓ "이 내용, 밖에 나가도 괜찮은 걸까?"

이 질문에 '어… 좀 걸리는데' 싶으면, 그게 신호예요. → 다음 파트에서 뭘 걸러야 하는지 봅니다.

---

PART 2 · 입력 위험 — 뭘 올려도 되나

올려도 되는 것, 안 되는 것

⭕ 올려도 괜찮아요

• 공개된 정보 · 뉴스
• 내가 쓴 초안 · 메모
• 가상의 예시 · 시나리오
• 익명화한 데이터

❌ 올리면 안 돼요

• 고객 · 직원 개인정보
• 계약서 · 내부 기밀
• 비밀번호 · 인증정보
• 아직 공개 안 한 정보

헷갈리면 보수적으로. '세면 곤란한 것'은 일단 넣지 않는 게 안전해요.

🚩 이게 보이면, 멈추세요 (Red Flags 5)

신호	왜 위험한가
❗ 실명 · 연락처 · 주민번호	사람을 특정할 수 있는 정보
❗ 고객 · 직원 데이터	명단 · 구매내역 · 평가 등
❗ 계약서 · 내부 문서	회사 밖에 못 나가는 자료
❗ 비밀번호 · API 키	인증 · 접근 정보는 절대
❗ 아직 공개 안 한 정보	신제품 · 실적 · 인사 등

이 다섯 중 하나라도 보이면, 그대로 올리지 말고 다음 장처럼 가려서 씁니다.

🎭 안 되면, 가려서 올려요

민감한 게 섞여 있다고 포기할 필요는 없어요. 가리고 바꿔서 안전하게 쓰면 됩니다.

🅰️ 익명화
이름을 A · B · 고객1 로 바꾸기

📝 요약만
원문 대신 핵심만 넣기

🔒 마스킹
번호 · 계좌 일부를 가리기 (010-****)

🎲 가상 데이터
실제 대신 비슷한 가짜로 바꿔 넣기

💡 팁 — '이 결과를 내가 만들 수만 있으면 되지, 원본을 다 줄 필요는 없다' 고 생각하면 쉬워요.

👔 내 직무에서 특히 조심할 것

내 손에 자주 오는 데이터일수록 무뎌지기 쉬워요.

직무	특히 조심할 것
HR	직원 · 지원자 개인정보, 평가 · 연봉
PO	미공개 지표 · 로드맵, 고객 데이터
디자인	미공개 시안, 클라이언트 자료 · 저작권
개발	소스코드, API 키 · 서버 정보

내 직무의 '민감 목록'을 한 번 떠올려두면, 올릴 때 자동으로 걸러져요.

🔁 위험한 프롬프트, 이렇게 바꿔요

🚫 BEFORE · 그대로 붙여넣기
"이 고객 문의 목록 요약해줘" + 김OO 010-1234-… 원본 붙여넣기
→ 개인정보가 그대로 밖으로 나가요.

✅ AFTER · 가려서 올리기
이름은 A · B로, 번호는 지우고 : "아래 익명화된 문의를 유형별로 요약해줘"
→ 같은 결과, 정보는 안전.

결과물은 똑같이 얻어요. 원본을 다 줄 필요가 없다는 게 핵심이에요.

---

PART 3 · 환각 검증 — 답을 어떻게 믿나

AI는 자신 있게 틀려요

Day 1에서 봤죠. AI는 '다음에 올 그럴듯한 말'을 이어붙이는 예측기. 그래서 모르는 것도 멈추지 않고, 그럴듯하게 지어냅니다.

🔑 핵심 — AI가 자신 있게 말한다고 해서 맞는 건 아니에요. 오히려 가장 그럴듯할 때가 제일 위험합니다.

'틀릴 수 있다'가 아니라 '틀릴 수 있다고 전제하고 확인한다'로 습관을 바꾸는 게 오늘 목표예요.

🔍 여기선 무조건 의심하세요 (5곳)

영역	어떻게 틀리나
숫자 · 통계	그럴듯한 수치를 잘 지어내요
인용 · 출처	없는 논문 · 기사를 만들기도
법 · 규정	조항을 헷갈리거나 지어냄
최신 정보	모르는 최근 일도 아는 척
고유명사	사람 · 제품 이름을 섞어버림

이 다섯 곳에서 나온 건, 쓰기 전에 반드시 사람이 한 번 확인합니다.

그럴듯하게, 이렇게 지어내요

환각은 대놓고 이상하지 않아요. 오히려 '있어 보이는' 게 함정입니다.

유형	실제 모습
통계 · 수치	"직장인의 73%가…" 그럴듯한 숫자인데 출처가 없음
출처 · 인용	존재하지 않는 논문 · 기사 제목을 진짜처럼
인물 · 제품	비슷한 이름들을 섞어 사실처럼 말함

공통점은 다 '자신 있게' 말한다는 거예요. 자신 있을수록 더 의심하세요.

✔️ 답을 어떻게 확인할까 (4단계)

#	방법	이렇게
01	근거를 물어본다	"이 답의 근거와 출처를 알려줘"
02	원문과 대조한다	자료를 줬으면 거기서만 나왔는지 확인
03	교차 확인한다	다른 데서(검색 · 자료) 한 번 더 확인
04	스스로 검토시킨다	"틀릴 수 있는 부분을 스스로 짚어줘"

중요한 결과일수록 사람이 마지막 확인. 이게 어제 말한 '사람 자리'예요.

🧰 바로 쓰는 검증 프롬프트

하나 골라 저장소에 넣어두고 계속 쓰세요. 이 네 문장이면 환각을 크게 줄여요.

· 답의 근거와 출처를 함께 표시해줘.
· 확실하지 않으면 '모른다'고 말해줘.
· 이 자료 안에서만 답하고, 없는 건 지어내지 마.
· 방금 답에서 틀릴 수 있는 부분을 스스로 짚어줘.

🔁 물어보는 법만 바꿔도

🚫 BEFORE · 그냥 물어보기
"이 주제 통계 좀 알려줘."
→ 출처 없는 숫자가 줄줄. 맞는지 알 수가 없어요.

✅ AFTER · 근거를 요구하기
"통계를 알려주되 각 수치의 출처를 함께, 확실치 않으면 모른다고 해."
→ 근거 있는 것만, 모르는 건 모른다고 나와요.

검증은 대단한 게 아니에요. 프롬프트에 한 줄 더하는 것부터 시작해요.

---

🧪 실습

실습 1 · 입력 판단 O/X (PART 2)

📌 이 슬라이드는 스크린샷에 빠져 있어, 강의 흐름(“입력 판단 O/X와 환각 잡기, 두 실습이 중간에 들어가요”)에 맞춰 재구성했습니다.

주어진 사례를 보고 올려도 되는지(O) / 안 되는지(X), X면 어떻게 가려서 올릴지까지 답하기.

사례	판단	가리는 법
공개된 뉴스 기사 요약 요청	⭕	그대로 가능
고객 문의 원본(이름 · 번호 포함)	❌	익명화 + 마스킹 후 요약 요청
회의록 전문	❌	참석자는 A · B로, 핵심만 요약해서 입력
내가 쓴 기획 초안	⭕	단, 미공개 지표는 가상 수치로 치환
서버 접속용 API 키가 든 코드	❌	키는 제거 · 더미로 치환 후 로직만 검토 요청

실습 2 · 환각 잡기 — 의심하고 확인하기

AI에게 사실이 섞인 질문을 하나 던지고, 나온 답에서 의심 포인트를 찾아 실제로 검증해보세요.

#	단계	내용
1	질문 던지기	숫자 · 출처가 나올 만한 질문 (예: 통계, 사례)
2	의심 3곳 표시	숫자 · 인용 · 고유명사에 밑줄
3	검증 프롬프트	'근거 · 출처 표시', '모르면 모른다고' 적용
4	교차 확인	한 곳은 검색이나 자료로 직접 확인

🏁 성공 기준 — AI가 틀리거나 애매하게 말한 곳을 한 군데라도 잡아냈다.

내가 써본 질문 예시

• 최근에 친구한테 ~~로 맞았는데, 이거 어떻게 고소해야 해? (법 · 규정 → 조항을 지어내기 쉬운 영역)
• 최근에 기온이 많이 높아져서 지구 온난화가 심해진 것 같은데, 통계 수치를 알려줘 (숫자 · 출처 → 그럴듯한 수치를 지어내기 쉬운 영역)

🗞️ 뉴스 정보 검증 프롬프트 (실습에서 만든 것)

[입력]
~~~~

[역할]
너는 헤드라인을 작성하는 기자야.
여러 가지 정보 중에 확실시 된 정보만 사용해야 하는 의무가 있어.

[맥락]
[입력] 항목에 올려주는 정보를 한 줄씩 읽어나가면서 확인하는 과정을 거치고 있어.
문구는 구어체로 사용해도 되고, 경어로 사용해도 돼.

[출력]
1. 각 리스트마다 대상, 연도, 수치(비용이나 ~% 등), 기관명, 인용, 연구자를 매칭하고 탐색해서
   확인 / 의심 / 가짜 3종류의 판정 남기기
2. 판정의 근거를 1줄 남기고, 근거를 세운 이유와 URL을 남기기
3. URL이 있는 경우는 해당 URL에 접속해보고 홈페이지에서 해당되는 내용을 찾아 추가 검증
4. 홈페이지에서 내용을 찾은 경우 해당 문구가 있는 페이지의 URL 링크까지 넣어 확실한 물증 확보
5. 내용과 URL이 있지만 URL 접근이 불가능하거나 접속이 안 되는 경우는 '의심'으로 판정
6. 내용이 확인이 안 되거나, 일치하지 않은 대상이나 기관, 수치가 다를 경우는 '가짜'로 판정
7. 의심으로 판정된 자료는 판정 결과를 "미확인"으로 바꾸고, 가짜로 판정된 자료는 삭제

[제약 사항]
1. 딱 떨어지는 숫자와 처음 보는 이름, 책부터 의심.
2. 체크리스트 : 숫자, 인용, 저자, 기관, 날짜에 체크. 확인해야 할 것 15개를 다 표시.
3. 없는 사실을 창조하거나 작성하지 말기

💡 이 프롬프트는 위 '답을 어떻게 확인할까 4단계'를 한 덩어리로 자동화한 형태예요. 근거 요구(01) → 원문 대조(02) → 교차 확인(03) → 판정 및 자가 검토(04).

---

🎒 오늘 외울 건 딱 세 개

#	습관	언제 · 어떻게
01	멈추기	올리기 전에, '밖에 나가도 되나?' 한 번
02	가리기	민감한 건 익명화 · 요약 · 가짜로 바꿔서
03	확인하기	답을 믿기 전에, 근거 · 숫자 · 출처를 검증

🏁 멈추고, 가리고, 확인하기. 이 셋만 몸에 붙으면 대부분의 사고는 안 나요.

---

📎 정리 메모 — 스크린샷 21장(슬라이드 02~26) 기준으로 정리했습니다.
빠진 슬라이드: 06 · 11 · 17 · 18 (PART 도입 슬라이드와 입력 판단 O/X 실습으로 추정) → 강의 흐름에 맞춰 재구성했고, 재구성한 부분은 위에 표시해 두었습니다.