2023-11-18(Sat) by Lucas Ropek
[Photo: Nikolas Kokovlis/NurPhoto (Getty Images)]
+인공지능 분야에서 일어나고 있는 일들을 심도 있게 살펴보는 Gizmodo의 주간 요약+
러시아 스파이웨어 회사가 챗봇을 사용하여 웹 유저를 감시하는 것으로 밝혀져
이번 주 Forbes는 러시아 스파이웨어 회사인 Social Links가 ChatGPT를 사용하여 감정 분석을 시작했다고 보도했다. 경찰과 스파이가 소셜 미디어 데이터를 수집하고 분석하여 웹 유저의 감정을 파악하는 소름 끼치는 분야인 '감성 분석'은 아직은 작은 챗봇이 등장하기 전의 사용 사례 중 하나이다.
사용자 감시 혐의로 Meta의 플랫폼에서 퇴출된 적이 있는 Social Links는 이번 주 파리에서 열린 보안 컨퍼런스에서 ChatGPT의 파격적인 활용을 선보였다. 이 회사는 챗봇의 텍스트 요약 및 분석 기능을 무기화하여 대량의 데이터를 빠르게 소화할 수 있었다. Forbes의 보도에 의하면, 데모에서 이 회사는 자체 도구로 수집한 데이터를 ChatGPT에 입력했고, 최근 스페인에서 발생한 논란에 대한 온라인 게시물과 관련된 데이터를 챗봇이 분석하여 "긍정, 부정 또는 중립으로 평가하여 대화형 그래프로 결과를 표시"했다.
프라이버시 옹호자들은 이 특정 사례뿐만 아니라 AI가 일반적으로 감시 산업의 권한을 어떻게 확대할 수 있는지에 대한 내용 때문에 이 사실을 다소 불안해한다.
Electronic Frontier 재단의 커뮤니티 조직 담당 부국장인 Rory Mir는 AI가 경찰의 감시 활동을 확대하는 데 도움이 될 수 있으며, 소규모 경찰 팀이 대규모 그룹을 쉽게 감시할 수 있게 해준다고 말했다. 이미 경찰 기관은 온라인 커뮤니티에 침투하기 위해 가짜 프로필을 자주 사용하고 있으며, 이러한 종류의 감시는 온라인 발언에 냉담한 영향을 미친다고 Mir는 전했다. 그는 "ChatGPT와 같은 것의 무서운 점은 이러한 종류의 작업을 확장할 수 있다는 것"이라고 덧붙였다. AI는 경찰이 이러한 잠입 작전 중에 수집한 데이터에 대해 "더 빠르게 분석을 실행"할 수 있게 해주며, 이는 "AI 도구가 온라인 감시를 [효과적으로] 가능하게 한다"는 것을 의미한다고 말했다.
Mir는 또한 이러한 종류의 AI 사용에서 눈에 띄는 문제점을 지적했는데, 바로 챗봇이 엉망진창이 되어 나쁜 결과를 초래하는 경우가 많다는 점이다.
"AI는 이런 위험성이 높은 시나리오에서 정말 우려스러운 존재이다."
"ChatGPT가 글의 초안을 읽고 '이 정도면 괜찮은가'라고 물어볼 수 있도록 하는 것은 별개의 문제이다. 하지만 누군가가 일자리를 구할지, 주택을 구할지, 이 경우에는 경찰로부터 과도한 관심을 받을지 여부를 결정하는 영역으로 넘어가면 이러한 편견은 고려해야 할 사항이 아니라 그런 식으로 사용해서는 안 되는 이유가 된다."
Mir는 AI 학습 데이터의 '블랙박스'는 알고리즘의 응답이 신뢰할 수 있는지 여부를 확신하기 어렵다는 것을 의미한다고 덧붙였다. "이 알고리즘은 Reddit과 4chan 데이터로 학습된다."고 그는 웃으며 말했다. "따라서 이러한 기초 데이터에서 비롯된 편견이 모자이크 결과물에 다시 나타나게 된다."
Sam Altman에게 대체 무슨 일이 있었던걸까
최근 기술 역사상 가장 충격적인 사건 중 하나라고 할 수 있는 사건으로 Sam Altman이 OpenAI의 CEO 자리에서 쫓겨났다. 지난 금요일, 회사는 갑작스러운 리더십 전환을 알리는 성명을 발표했다.
"Altman의 퇴임은 이사회의 신중한 검토 절차에 따른 것으로, Altman은 이사회와의 커뮤니케이션에서 일관되게 솔직하지 않아 이사회의 책임 수행 능력을 저해했다는 결론을 내렸다. 이사회는 더 이상 그가 OpenAl을 계속 이끌 수 있다는 확신을 갖지 못했다."
이 충격적인 사건으로 인해 즉각적인 권력 공백이 생긴 상황에서 이사회는 회사의 최고 기술 책임자인 Mira Murati를 임시 CEO로 선임한 것으로 보인다고 보도 자료는 밝혔다. 현재로서는 Sam이 무엇을 했기에 이러한 치명적인 경력 급락을 초래했는지는 완전히 불분명하다. 실리콘밸리의 왕자에서 하루아침에 천덕꾸러기가 되려면 심각한 실수를 저질러야 한다. 여기서 정확히 무슨 일이 있었는지 모두 촉각을 곤두세우고 있다.
[뉴스 출처] https://gizmodo.com/chatgpt-can-be-used-for-surveillance-spyware-1851029685
