오늘의 고민: 금지어 처리 하나로 상담원의 스트레스를 줄일 수 있다면?

lionloopy·2025년 1월 16일

고객대응 앵귤러 오늘의 고민

오늘의 고민

목록 보기

6/6

상황

나는 챗봇 리뉴얼 프로젝트를 담당하고 있었고
해당 고객사는 챗봇을 고객 상담에 활용하고 있었다.

그런데 리뉴얼을 하면서 열린 몇번의 미팅에서
콜센터 상담사분이 챗봇의 상담기록을 관리할 때
욕설이 은근 많아서 상처도 받고 스트레스도 받는다는 말을 지나가듯이 하셨다.

사실 누가 일하면서 욕설을 눈으로 보고 귀로 듣고 싶겠는가..!
그래서 이 부분을 상담기록 내에서도 금지어와 관련해서 개선해야겠다고 생각했고,
아이디어를 냈다.

챗봇의 금지어

사실 상담을 목적으로 하는 챗봇의 금지어 기능은 굉장히 흔하다.
챗봇에게 19금이나 음란한 말들을하여 챗봇이 학습되는 경우도 있고,
챗봇 상담이 잘 이루어지지 않으면 쉽게 욕설을 채팅에 치곤 한다.

출처: 한경

그래서 챗봇에도 금지어 기능은 있었고, 해당 금지어 기능은 적용만 해주면 되었다.

그런데 문제는 상담 기록에도 금지어가 그대로 남아
상담원이 상담기록을 조회할 때 스트레스를 받기도 하고,
자주 사용하는 욕설을 조회하고 싶을 때가 있기 때문에
상담기록내에서 금지어 관련 기능을 개선하려고 한 것이다.

스트레스를 줄여보자

고민1: 금지어가 상담기록에 안 남도록 한다면?

첫번째로 고민한 방법은
금지어가 아예 상담기록에 남지 않게끔 하는 것이다.

사용자의 채팅 메세지를 받아오고
이를 상담기록에서 나타내는데, 이 때 어차피 사용자의 채팅 메세지에는
금지어인지 아닌지 type이 구분되어 있다.

이 type값을 받아오기 때문에
type값을 판별해서 금지어이다? 그럼 상담기록 창에 안 나타나게끔 하면 된다.

백엔드에서 type이 금지어가 아닌 데이터만 배열에 담아 return 함
프론트엔드에서 type이 금지어이면 히든 처리

이렇게 두가지 방법이 있다.

그러나

.
.
.

상담사분들께서는 상담기록에서 금지어를 히든하지 않고
보고싶다고 하셨다.

누군가는 욕설을 보면 스트레스를 받으니 아예 안 보고 싶다고 하시고,
누군가는 자주 사용하는 욕설이 무엇인지 알고 싶다고 하시고 ..

그럼 결국 어쨌든 아예 백엔드에서 배열에 담지 않는 건 취소취소..
누군가는 보고 싶고 누군가는 안 보고 싶다면..?

고민2: 욕설을 본다.. 안 본다..?

그래서 두번째로 고민한 개선 방법은 상담기록 창 내에 메세지 중
type 값으로 금지어를 구분해내고

금지어인 메세지에는 눈 아이콘을 삽입해서 보고 싶을 때 보도록 해야겠다고 생각했다.

일단 욕설을 보는 것 자체가 스트레스이니..
처음엔 안 보이게끔 하고, 비밀번호 타입 처럼
눈 아이콘을 클릭하면 욕설을 볼 수 있게끔 하면
두가지 조건을 만족할 수 있지 않을까?

이렇게 "금지어입니다." 로 나타내고
눈 아이콘을 추가하여, 클릭하면 원본 메세지를 볼 수 있게끔 구현했다.

if (chat.type === "prohibited") {
   rightContent += "<div id='" + messageId + "'>금지어입니다.</div>";
        if(counselProhibitFlag == "1"){
             rightContent += "<div id='" + messageId +"'>"+chat.message+"</div>";
              }else{
                  rightContent += "<div id='" + messageId + "'>금지어입니다.</div>"}