[ Programmers / CodingTest / Python ] 뉴스 클러스터링

황승환·2022년 3월 6일
0

Python

목록 보기
228/498

문제 설명

뉴스 클러스터링

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

  • 카카오 첫 공채..'블라인드' 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. "코딩 실력만 본다"
  • 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

  • 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
  • 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
  • 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1		str2		answer
FRANCE		french		16384
handshake	shake hands	65536
aa1+aa2		AAAA12		43690
E=M*C^2		e=m*c^2		65536

접근 방법

이 문제는 입력받은 두 문자열을 두글자씩 잘라 다중 집합에 저장하고, 두 다중 집합의 교집합의 크기와 합집합의 크기를 나눈 후, 65536을 곱하여 해결하였다. 여기서 주의해야 할 점은, 만약 두글자씩 자른 문자열에 알파벳이 아닌 문자가 있을 경우, 이 두글자로 된 문자열을 버려야한다는 점과, 두 문자열을 모두 소문자나 대문자로 통일 변환한 뒤에 사용해야 한다는 점, 그리고 교집합의 크기를 구할 때 lst1에 존재하는 두글자 문자열의 갯수와 lst2에 존재하는 두글자 문자열의 갯수 중 더 작은 수를 더해야하고, 한번 카운팅한 두글자 문자열이 다시 나올 경우 넘어가야 한다는 점이다. 합집합의 크기는 lst1의 길이와 lst2의 길이를 더한 값에서 교집합의 크기를 뺀 값으로 취한다.

  • str1과 str2를 소문자로 변환한다.
  • 두글자로 잘라 저장할 리스트 lst1, lst2를 선언한다.
  • 두글자로 자를 때 사용할 임시 문자열 tmp를 선언한다.
  • str1의 길이만큼 반복하는 i에 대한 for문을 돌린다.
    -> tmp에 str1[i]를 붙인다.
    -> 만약 tmp의 길이가 2일 경우,
    --> chk를 True로 선언한다.
    --> 2번 반복하는 j에 대한 for문을 돌린다.
    ---> 만약 tmp[j]가 알파벳이 아닐 경우,
    ----> chk를 False로 변환한다.
    ----> for문을 탈출한다.
    --> 만약 chk가 True일 경우,
    ---> lst1에 tmp를 넣는다.
    ---> tmp를 str1[i]로 갱신한다.
    --> 그 외의 경우,
    ---> tmp를 str1[i]로 갱신한다.
  • tmp를 빈 문자열로 선언한다.
  • str2의 길이만큼 반복하는 i에 대한 for문을 돌린다.
    -> tmp에 str2[i]를 붙인다.
    -> 만약 tmp의 길이가 2일 경우,
    --> chk를 True로 선언한다.
    --> 2번 반복하는 j에 대한 for문을 돌린다.
    ---> 만약 tmp[j]가 알파벳이 아닐 경우,
    ----> chk를 False로 갱신한다.
    ----> for문을 탈출한다.
    --> 만약 chk가 True일 경우,
    ---> lst2에 tmp를 넣는다.
    ---> tmp를 str2[i]로 갱신한다.
    --> 그 외의 경우,
    ---> tmp를 str2[i]로 갱신한다.
  • 교집합의 크기를 저장할 변수 inter를 0으로 선언한다.
  • 교집합 크기를 구할 때 사용할 리스트 called를 선언한다.
  • lst1을 순회하는 word1에 대한 for문을 돌린다.
    -> 만약 word1이 called에 있을 경우, 다음 반복으로 넘어간다.
    -> inter에 lst1에서의 word1의 갯수와 lst2에서의 word1의 갯수 중 더 작은 값을 더한다.
    -> called에 word1을 넣는다.
  • 합집합의 크기를 저장할 변수 comb를 lst1의 길이와 lst2의 길이의 합에 inter를 뺀 값으로 선언한다.
  • 만약 inter와 comb가 0일 경우, answer를 65536으로 선언한다.
  • 만약 inter가 0이거나 comb가 0일 경우, answer를 0으로 선언한다.
  • 그 외의 경우,
    -> answer를 inter/comb에 65536을 곱한 값을 str형으로 선언한다.
    -> answer를 answer에서의 .앞에까지의 문자열의 int형으로 갱신한다.
  • answer를 반환한다.

solution.py

def solution(str1, str2):
    str1, str2=str1.lower(), str2.lower()
    lst1=[]
    lst2=[]
    tmp=''
    for i in range(len(str1)):
        tmp+=str1[i]
        if len(tmp)==2:
            chk=True
            for j in range(2):
                if not tmp[j].isalpha():
                    chk=False
                    break
            if chk:
                lst1.append(tmp)
                tmp=str1[i]
            else:
                tmp=str1[i]
    tmp=''
    for i in range(len(str2)):
        tmp+=str2[i]
        if len(tmp)==2:
            chk=True
            for j in range(2):
                if not tmp[j].isalpha():
                    chk=False
                    break
            if chk:
                lst2.append(tmp)
                tmp=str2[i]
            else:
                tmp=str2[i]
    inter=0
    called=[]
    for word1 in lst1:
        if word1 in called:
            continue
        inter+=min(lst1.count(word1), lst2.count(word1))
        called.append(word1)
    comb=len(lst1)+len(lst2)-inter
    if inter==comb==0:
        answer=65536
    elif inter==0 or comb==0:
        answer=0
    else:
        answer=str(inter/comb*65536)
        answer=int(answer[:answer.index('.')])
    return answer

profile
꾸준함을 꿈꾸는 SW 전공 학부생의 개발 일기

0개의 댓글