[1차] 뉴스 클러스터링

문제

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

• 카카오 첫 공채..'블라인드' 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. "코딩 실력만 본다"
• 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1	str2	answer
FRANCE	french	16384
handshake	shake hands	65536
aa1+aa2	AAAA12	43690
E=M*C^2	e=m*c^2	65536

문제 풀이

실패한 풀이

from collections import Counter as mset
def multiSet(str1):
    st1=[]
    for i in range(len(str1)-1):
        if str1[i:i+2].isalpha() is True:
            st1.append(str1[i:i+2].lower())
    return st1
def solution(str1, str2):
    lst1 = multiSet(str1.lower())
    lst2 = multiSet(str2.lower())
    len_lst1 = len(lst1)
    len_lst2 = len(lst2)
    if len_lst1 == 0 and len_lst2 == 0:
        return 65536
    mset1 = mset(lst1)
    mset2 = mset(lst2)
    inter_lst = list((mset1 & mset2).elements())
    len_inter_lst = len(inter_lst)
    len_union_lst = len_lst1 + len_lst2 - len_inter_lst
    return int(len_inter_lst/len_union_lst *65536)

한눈에 봐도 불필요해보이는 코드가 많아보인다.

고려사항

1. 대소문자 구분X ⇒ 소문자로 만들기
2. set() 사용 못함 : 중복값도 취급하기 때문
3. 조합X, 단순히 붙어있는 문자 두 글자씩 끊는 것
4. 특수부호가 들어있는 쌍X, 그렇다고 애초에 제거하면 없는 쌍이 나옴

def solution(str1, str2):
	#각 문자열을 두 글자씩 쌍으로 묶고 특수부호 등이 포함된 경우는 제외하여 배열에 넣기
    arr1=[str1.lower()[i:i+2] for i in range(len(str1)-1) if str1.lower()[i:i+2].isalpha()]
    arr2=[str2.lower()[i:i+2] for i in range(len(str2)-1) if str2.lower()[i:i+2].isalpha()]
    cnt=0
    noset=[]    #중복되어 교집합 처리가 되는 경우를 없애기 위해 인덱스를 넣어두는 배열
    
    for i in range(len(arr1)):
        for j in range(len(arr2)):
            if arr1[i]==arr2[j] and j not in noset:
                cnt+=1
                noset.append(j)
                break   #같은 거 하나 찾으면 제외

	# if문에서 and를 했는데 오류가 나서 or로 바꿨더니 정답처리
    # cnt==0인 경우는 두 집합이 공집합이거나 교집합이 없을 때
    return int(cnt/(len(arr1)+len(arr2)-cnt)*65536) if cnt!=0 or len(arr1)+len(arr2)-cnt!=0 else 65536

위 코드에서 살펴보아야할 점

1. 위 코드에서 주의해야할 점은 교집합인 원소 개수를 구할 때 한 단어가 중복되어 계산되지 않도록 해야한다.

예를 들면)
arr1 : [ha,an,nd,ds,sh,ha,ak,ke]
arr2 : [sh,ha,ak,ke,ha,an,nd,ds]
일 때, 처음 loop에서 arr1의 ha을 기준으로 arr2의 원소를 모두 돌아보면서 같은 문자를 확인한다. 이때 arr2의 원소 중에 ha는 2개가 있기 때문에 처음의 ha를 확인한 후 for문을 멈추지 않으면 뒤의 ha도 함께 계산하기 때문에 잘못된 교집합 개수가 나오게된다.
그래서 같은 문자를 찾으면 break를 해주어 arr1의 다음 원소로 넘어가도록 해줘야한다.

2. 또한 마지막 return 코드에서도 살펴보아야할 점은 아래와 같다.

return int(cnt/(len(arr1)+len(arr2)-cnt)*65536) if cnt!=0 or len(arr1)+len(arr2)-cnt!=0 else 65536

• cnt==0인 경우는 공집합이거나 교집합이 없을때이다.
• 공집합의 경우엔 cnt==0이고 합집합의 크기도 0이기 때문에 else로 넘어간다.
• 하지만 공집합이 아닌 교집합의 경우엔 cnt==0이지만 합집합의 크기가 0이 아니기 때문에 else로 넘어가지 않는다.

---

다른 사람 풀이

import re
import math

def solution(str1, str2):
    str1 = [str1[i:i+2].lower() for i in range(0, len(str1)-1) if not re.findall('[^a-zA-Z]+', str1[i:i+2])]
    str2 = [str2[i:i+2].lower() for i in range(0, len(str2)-1) if not re.findall('[^a-zA-Z]+', str2[i:i+2])]

    gyo = set(str1) & set(str2)
    hap = set(str1) | set(str2)

    if len(hap) == 0 :
        return 65536

    gyo_sum = sum([min(str1.count(gg), str2.count(gg)) for gg in gyo])
    hap_sum = sum([max(str1.count(hh), str2.count(hh)) for hh in hap])

    return math.floor((gyo_sum/hap_sum)*65536)

• set을 이용해서 교집합과 합집합의 개수만 구하고
• 이후에 count()함수를 사용하여 교집합과 합집합의 개수를 구한다
• min을 통해 교집합 개수 구하고
• max로 합집합 개수 구한다

from collections import Counter
def solution(str1, str2):
    # make sets
    s1 = [str1[i:i+2].lower() for i in range(len(str1)-1) if str1[i:i+2].isalpha()]
    s2 = [str2[i:i+2].lower() for i in range(len(str2)-1) if str2[i:i+2].isalpha()]
    if not s1 and not s2:
        return 65536
    c1 = Counter(s1)
    c2 = Counter(s2)
    answer = int(float(sum((c1&c2).values()))/float(sum((c1|c2).values())) * 65536)
    return answer

• Counter()함수로 객체를 생성, set()처럼 합집합, 교집합 가능