Day 40 (8주차)
| 시간 | 학습내용 | 소요시간 | 메모 |
|---|---|---|---|
| 아침 | 아티클 카타+ 멘토링 | ||
| 점심 전 | 역기획 피드백 보완 리서치 | ||
| Arvo | 역기획 피드백 보완 스터디 | ||
| 사프 MVP 회의 | 1.5hr | ||
| Evening | 지라 스터디 |
아티클 카타
UI나 UX나 그게 그거 아니야?
-
ux 기획 - 사용자의 행동 → 다양한 사용자 리서치를 통해 문제 분석
-
ui 디자인 - 사용자 친화적 인터페이스 → 프론트엔드 개발자와 협업
-
gui 디자인 - 시각적 표현, 디자인 정책
-
국내에서는 ux,ui,gui 간의 경계가 명확하지 않은 경우가 많음 → 채용 공고 분석을 통해 어떤 직무에 더 가까운지 파악해야함
-
실리콘 밸리 대표 기업의 채용공고를 분석:
- UX - R&D 수행 리서치 직군, 기획 역량
직무명 : ~~ Researcher - UI - 시각적 구현, 프로토타입 제작
직무명: ~~Designer - GUI - 새로운 디자인, 디자인 시스템 관리
직무명: ~~ Designer (UI디자이너와 직무명 겹침)
- UX - R&D 수행 리서치 직군, 기획 역량
-
특히 ui/gui 같은 경우는 실리콘 밸리에서도 아직은 크게 구분하지 않음. (발행년도 2021년 기준)
2025 이후의 트렌드 조사
- AI의 일상화로 UI와 GUI 디자이너의 영역은 더욱 흐려지고 있음.
- Product Designer 혹은 UI/UX Designer 라는 포괄적인 용어를 사용.
- 대화형 AI, AI 에이전트를 통한 웹 탐색 → 스크린에서 보여지는 디자인 요소보다는 사용자의 의도를 더 중요하게 여김
- 단순히 심미적인 요소를 구현(픽셀 작업이나 그래픽 코딩)하는 기술보다, 제품 전체의 맥락을 파악하고 문제를 해결하는 전체적인 제품 사고 역량이 중요해짐.
Q&A
Q. UX 기획자와 PM은 실무에서 어떻게 구분되나요?
A. UX기획자는 대중적으로 많이 사용되지는 않음.
직무명은 UX 기획자인데 역할은 PM, 서비스 기획자인 경우도 있음.
UX 리서처는 PM과 구분된 직무로 존재.
UX기획자가 있는 경우는 사업, 제품, 마케팅을 다루는 서비스 부서내에서 프로덕트의 기능적인 부분에 대한 업무를 수행.
PM의 업무 로드를 나눠야할 때, UX 기획자가 와이어 프레임, 화면 설계 업무를 맡음.
Q. 대화형 AI와 AI에이전트가 일상화되면서 단순히 심미적인 요소를 구현(픽셀 작업이나 그래픽 코딩)하는 기술보다는, 제품 전체의 맥락을 파악하고 문제를 해결하는 전체적인 제품 사고 역량이 중요해졌다고 하는데, 이런 변화가 실제 국내 기업에서도 일어나고 있는지?
프로덕트 디자이너라는 직무명으로 변하는 추세.
회사의 문화나 결에 따라 심미적 요소와 기능 사이에서 선호도 차이는 존재함.
AI로 인한 변화 이전에도 심미적인 요소보다 기능을 우선적으로 고려해야하는 게 맞다. AI로 인한 변화에 더욱 대두된 것.
역기획 PRD 보완
발표 후 피드백 받은 내용을 보완해서 PRD를 만들어보자
민감 정보 관련 정책
온프레미스 챗봇은 기업 내부 인프라에서 독립적으로 운영되므로 데이터가 외부로 전송되지 않습니다. 금융과 의료 그리고 공공 분야처럼 정보 보안이 중요한 산업에서 온프레미스 방식을 선호하는 경향이 있습니다.
-
채널톡 이용약관
-
챗봇 이용 전 매장 정보, 가게 데이터에 접근 권한을 허락하는 대화 진행 (은행에서 대출 신청 할 때 이용약관, 상품 설명서 읽고 동의 하듯이)
- 근거 기반의 응답 및 출처 제공 (->AI 추천 액션의 명확한 포지셔닝)
- 검색 증강 생성(RAG) 및 도구 활용
- 시스템 아키텍처 측면에서 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 기술을 도입
- MCP(Model Context Protocol) 활용: MCP 서비스를 통해 기존의 '우리가게 AI' 와 같은 도구와 모델을 통합 관리.*
- 실시간 모니터링
- Prometheus나 Grafana와 같은 도구를 활용하여 모델의 성능과 요청 빈도, 오류 발생 여부 등을 실시간으로 모니터링함으로써 이상 징후를 조기에 발견하고 대응*
- 사용자 피드백 루프 구축
-
기술적인 지표뿐만 아니라 사용자의 직접적인 피드백을 시스템 개선에 활용.
-
평가 시스템: 답변 하단에 '도움이 됨/안 됨' 버튼을 설치하여 사용자가 답변의 질을 직접 평가.
-
리스크 최소화
사용자가 직접 검증할 수 있는 도구(출처)를 제공
실시간 모니터링과 사용자 피드백
AI가 스스로를 교정하는 메커니즘
*참고자료 - Secure on premise site chatbot routing
Kakao i Connect Talk 기술 문서 : 참고하면 좋을 IA, 와이어프레임 시각화
정리
[AI 할루시네이션으로 인한 신뢰도 리스크 대책방안]
1. RAG 기반의 '수치 데이터' 연동 및 프롬프트 제약
- 지식 베이스 구축: 사장님별 매출, 주문 통계, 클릭률 데이터가 담긴 DB를 챗봇이 직접 조회하도록 설정함.
- 제약 조건 설정: "DB에 없는 정보에 대해서는 절대 추측하지 말고 '데이터를 확인할 수 없습니다'라고 답변할 것"을 시스템 프롬프트에 명시함.
- MCP(Model Context Protocol) 활용: MCP 서비스를 통해 기존의 '우리가게 AI' 와 같은 도구와 모델을 통합 관리.
2. 분석 근거 및 데이터 출처(Citation) 표기
- 데이터 출처 명시: "지난주 대비 매출이 10% 상승했습니다"라는 답변 시, [3월 4주차 vs 3월 3주차 비교 결과]와 같은 데이터 소스를 함께 표기함.
- 계산 과정 투명화: 단순 결과만 주는 것이 아니라, 어떤 수치들을 합산하거나 나누어 해당 결론에 도달했는지 간략한 근거를 제시하여 사장님이 직접 검증 가능하게 함. (요약 기능과 충돌하는 지점은 토글로 해결할 수 있지 않을까?)
3. 사용자 피드백
- 간편 피드백 버튼: 답변 하단에 '정확해요 👍 / 분석이 틀려요 👎' 버튼을 배치하여 현장의 목소리를 실시간으로 수집함.
4. 가드레일 및 인간 개입(Human-in-the-loop)
-
위험 문구 노출: "이 분석 결과는 통계적 추정치이며, 실제 정산 금액과 차이가 있을 수 있습니다"라는 면책 조항을 답변 하단에 상시 배치함.
-
고위험 추천 필터링: 광고비 집행 등 직접적인 비용이 발생하는 '액션 추천'의 경우, 내부 검증 로직을 거친 추천 템플릿만 출력되도록 설계함.
[AI 추천 액션의 명확한 포지셔닝]
-
'추천 액션' 라벨링
-
"우리 가게 성장", "경쟁 전략" 과 같은 라벨링으로 추천액션에 따른 기대효과를 빠르게 각인시키고, 어떤 데이터를 참조했는지 명시. (e.g. 지난 3개월간 매장의 변화를 반영했어요/ 근처 경쟁업체의 성과를 반영했어요)
-
문장이 짧아야 "요약"이 성립되는 건 아니니까, 명확한 포지셔닝을 위한 설명이 포함되어 답변이 조금 길어져도 괜찮지 않을까?
-
[민감 정보 관련 정책]
[원칙 1] 데이터 접근 및 활용 권한 제한
최소 권한의 원칙: 챗봇이 분석을 위해 접근하는 데이터 범위에서 사장님의 계좌번호, 상세 주소 등 분석에 불필요한 식별 정보는 원천적으로 차단(Masking)합니다.
본인 데이터 한정: 사장님은 '본인 가게'의 데이터만 조회할 수 있어야 하며, 지역 평균 등 비교 데이터를 제공할 때는 반드시 비식별화(익명화)된 평균값만 사용합니다.
[원칙 2] 데이터 활용 목적의 명확한 고지 및 동의
별도 동의 절차: 일반적인 서비스 이용 약관 외에 '가게 운영 분석 및 액션 추천을 위한 데이터 활용 동의'를 별도로 받습니다.
목적 외 사용 금지: 수집된 데이터를 마케팅이나 타 서비스 제공 목적으로 재활용하지 않는다는 점을 명시하여 심리적 안전 장치를 마련합니다.
[원칙 3] 챗봇 답변 내 정보 노출 가이드
마스킹(Masking) 처리: 답변 중 민감할 수 있는 수치나 정보는 일부 가려서 출력합니다. (예: 계좌번호 끝 4자리, 주문자명 성만 표시)
휘발성 답변 유지: 민감한 경영 데이터가 담긴 채팅 로그는 일정 시간이 지나면 서버에서 삭제하거나, 사장님이 직접 삭제할 수 있는 기능을 제공합니다.
[원칙 4] 투명한 알고리즘 및 오류 대응
추천 로직 공개: "이 액션은 최근 4주간의 목요일 주문 패턴을 분석한 결과입니다"와 같이 어떤 데이터를 기반으로 분석했는지 사장님에게 설명합니다.
이의 제기 채널: 데이터 분석 결과가 실제와 다르다고 판단될 경우, 즉시 고객센터나 담당 MD에게 연결할 수 있는 '신고/문의' 루트를 답변 하단에 배치합니다.
추가 체크 사항
법적 검토: 개인정보보호법 외에도 '가맹사업법'이나 '대규모유통업법'상 영업비밀 침해 소지가 없는지 법무 검토를 거쳤는가?
데이터 정합성: 챗봇이 불러오는 데이터와 사장님 관리 페이지(Self Service)의 통계 수치가 소수점까지 일치하는가? (불일치 시 신뢰도 급락)
심리적 허들: 사장님이 "플랫폼이 내 가게를 감시하고 있다"고 느끼지 않도록, 말투를 '감시자'가 아닌 '든든한 파트너'의 톤앤매너로 설정했는가?
