Programmers Coding Quiz #41 뉴스 클러스터링

김기욱·2021년 6월 18일
0

코딩테스트

목록 보기
50/68

문제 설명

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

  • 카카오 첫 공채..'블라인드' 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. "코딩 실력만 본다"
  • 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력형식

  • 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
  • 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
  • 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

입출력 예제

str1str2answer
FRANCEfrench16384
handshakeshake hands65536
aa1+aa2AAAA1243690
E=M*C^2e=m*c^265536

풀이

import re
from collections import Counter

def solution(str1, str2):
    # step1
    str1 = [str1[i:i + 2] for i in range(len(str1)-1)]
    str2 = [str2[i:i + 2] for i in range(len(str2)-1)]
    
    # step2
    str1 = list(filter(lambda x: len(x) > 1, [re.sub('[^a-zA-Z]', '', v).upper() for v in str1]))
    str2 = list(filter(lambda x: len(x) > 1, [re.sub('[^a-zA-Z]', '', v).upper() for v in str2]))
    
    # step3
    if len(str1) == 0 and len(str2) == 0:
        return 65536
    # step4
    intersection_str_len = len(list((Counter(str1) & Counter(str2)).elements()))
    union_str_len = len(list((Counter(str1) | Counter(str2)).elements()))
    # step5 
    return int((intersection_str_len/union_str_len) * 65536)

요즘들어 느끼는 것이지만 "문제가 길면 길수록 의외로 실제 문제가 풀 만 하다." 법칙은 코딩테스트에서도 적용되는 논리인 것 같습니다. 왜냐면 문제가 길다는 것은 설명이 상세하다는 의미이며, 문제속에서 방향과 힌트가 많이 녹아있다는 뜻이기도 하거든요. 그러므로 문제길이가 길어 딱 봤을 땐 짜증이 나긴해도 차근차근 풀기에는 오히려 이런 긴 문제가 훨씬 친절한 것 같습니다.

문제의 조건을 정리해보자면 다음과 같습니다.
Step1. 파라미터로 들어온 두 개의 문자열을 2-gram으로 쪼개서 파싱(리스트)
Step2. 특문, 숫자, 공백 이런것들은 제거하고 영문자만 남기고, 대-소문자는 똑같이 취급
Step3. 예외: 두 리스트다 공집합(요소가 하나도없음)일 경우는 결과값은 무조건 65536(유사도값이 1이므로)
Step4. 두 리스트 사이에 교집합/합집합 구하기
Step5. 결과값인 (교집합의 개수 / 합집합의 개수) * 65536의 정수부를 return

주석으로 코드에 풀이단계를 표시 했습니다. 영문자만 남겨야 되기 때문에 정규식을 사용했고, 중복을 유지한채로 합집합과 교집합을 구해야되기 때문에 collections 모듈에서 지원하는 Count메서드를 사용했습니다.

step2에서는 map과 filter를 활용했습니다. map으로 영문자외에 문자들을 공백처리하고, 이렇게되면 자연스럽게 특문이나 숫자가 섞였던 문자들은 길이가 2가 될 수 없기때문에 filter로 1보다 큰(=2)인 것들만 남겨놓게되면 원하는 리스트를 얻을 수 있습니다.

다른풀이

def solution(str1, str2):
    list1 = [str1[n:n+2].lower() for n in range(len(str1)-1) if str1[n:n+2].isalpha()]
    list2 = [str2[n:n+2].lower() for n in range(len(str2)-1) if str2[n:n+2].isalpha()]

    tlist = set(list1) | set(list2)
    res1 = [] #합집합
    res2 = [] #교집합

    if tlist:
        for i in tlist:
            res1.extend([i]*max(list1.count(i), list2.count(i)))
            res2.extend([i]*min(list1.count(i), list2.count(i)))

        answer = int(len(res2)/len(res1)*65536)
        return answer

    else:
        return 65536

외부모듈없이도 간단하게 해결을 할 수 있네요. set은 중복을 없애기때문에 저는 아예 배제했었는데 중복없이 카운팅하는 '표본' 역할로 쓰는 것이 아주 인상적이네요. 합집합은 max 교집합은 min을 사용해서 리스트를 만들어내는 방식도 명쾌한 풀이입니다.

profile
어려운 것은 없다, 다만 아직 익숙치않을뿐이다.

0개의 댓글