[Programmers][Java] 뉴스 클러스터링

최지수·2022년 3월 1일
0

Algorithm

목록 보기
63/77
post-thumbnail

문제

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

  • 카카오 첫 공채..'블라인드' 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. "코딩 실력만 본다"
  • 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

제한사항

  • 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
  • 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다.
  • 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
  • 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

접근

Map을 이용해서 풀었어요. 각 문자열의 부분 문자열을 key로 해서 개수를 카운팅하고, 그 과정에 존재하는 모든 유효 문자열들을 따로 Map에 관리했어요.

그렇게, 유효 문자열들을 순회해서 각 문자열 Map에서,

  1. 둘 다 존재 \to 가장 큰 수를 합집합의 개수에, 가장 작은 수를 교집합의 개수에 더해요.
  2. 각 문자열에만 존재할 경우 \to 합집합의 개수에 더해요.

이리하여 굳이 교집합과 합집합을 모두 구하지 않고 개수만 구해서 답안을 도출해냈어요.

답안

// 기사 찾기 어렵, 너무 많다.
// 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점 개선
// 자카드 유사도
// 1. 두 집합 A,B사이의 J(A,B) = 교집합 크기 / 합집합 크기
// 1-1. {1,2,3}, {2,3,4} -> {2,3} / {1,2,3,4} = 2/4 = 0.5
// 1-2. {}, {}면 1/0는 틀리니 따로 1이라 정의
// 2. 자카드 유사도는 원소 중복 허용
// 2-1. {1,1,2,2,3}, {1,2,2,4,5} = {1,2,2} / {1,1,2,2,3,4,5} = 3/7 = 0.42
// 3. 문자열을 잘라서도 자카드 유사도를 구할 수 있음
// 입력
// 1. 문자열 두개,  2이상 1000 이하
// 2. 문자열을 두글자씩 끊어서 다중집합의 원소로 만듦
// 3. 영문자로 구성된 글자쌍만 유효, 그외 것이 있는 쌍인 경우 무시
// 4. 대소문자 차이는 무시
// 5. 유사도 값은 0~1사이 실수이므로, 65536을 곱한후 소수점들 다 버리고 정수부만 출력

import java.util.Map;
import java.util.HashMap;

class Solution {
    
    private final int MUL_VALUE = 65536;
    
    public int solution(String str1, String str2) {
        
        // 1. 문자열을 2글자 단위로 나눔(특수문자 포함은 무시)
        Map<String, Boolean> keyMap = new HashMap<>();
        Map<String, Integer> str1List = new HashMap<String, Integer>(), str2List = new HashMap<String, Integer>();
        for(int i = 0 ; i < str1.length() - 1; ++i){
            String subStr = str1.substring(i, i + 2);
            subStr = subStr.toLowerCase();
            if(false == Character.isAlphabetic( subStr.charAt(0))  
            || false == Character.isAlphabetic( subStr.charAt(1))){
                continue;
            }

            if(str1List.containsKey(subStr)){
                str1List.replace(subStr, str1List.get(subStr) + 1);
            } else{
                str1List.put(subStr, 1);
            }

            if(false == keyMap.containsKey(subStr)){
                keyMap.put(subStr, true);
            }
        }
        for(int i = 0 ; i < str2.length() - 1; ++i){
            String subStr = str2.substring(i, i + 2);
            subStr = subStr.toLowerCase();
            if(false == Character.isAlphabetic( subStr.charAt(0))  
            || false == Character.isAlphabetic( subStr.charAt(1))){
                continue;
            }
            
            if(str2List.containsKey(subStr)){
                str2List.replace(subStr, str2List.get(subStr) + 1);
            } else{
                str2List.put(subStr, 1);
            }

            if(false == keyMap.containsKey(subStr)){
                keyMap.put(subStr, true);
            }
        }
        // 2. 교집합의 개수와 합집합 개수를 구함
        int intersectionCnt = 0, unionCnt = 0;
        for(var iter : keyMap.entrySet()){
            String key = iter.getKey();
            if(str1List.containsKey(key) && str2List.containsKey(key)){
                intersectionCnt += Math.min(str1List.get(key), str2List.get(key));
                unionCnt += Math.max(str1List.get(key), str2List.get(key));
            } else if(str1List.containsKey(key)){
                unionCnt += str1List.get(key);
            } else if(str2List.containsKey(key)){
                unionCnt += str2List.get(key);
            }
        }
        // 3. 합집합 수가 0이면 1로 처리
        if(unionCnt == 0){
            return MUL_VALUE;
        }
        
        double answer = intersectionCnt / (double)unionCnt;

        // 5. 65536으로 곱하고 소수 무시(int)
        return (int)(answer * MUL_VALUE);
    }
}

후기

(기), 프로그래머스나 국내 기업들은 문제를 비문학 수준으로 줘서 한번 주석으로 정리를 먼저하고 전개를 해봤더니 실수 없이 잘 끝낼 수 있었던거 같아요. 이런 문제는 정리부터 하고 풀어보는게 요령인가 보네요 ㅎㅎ. 습관 들여야 겠어요.

생각해보니 현업에서도 먼저 문서화를 통해 어떻게 논리를 전개할 것인가를 정했을 때 생산성이 더 올라갔었던 같아요귀찮아서 그렇지. 이를 습관화하도록 해야겠어요!

profile
#행복 #도전 #지속성

0개의 댓글