딥페이크와 AI가 가져올 변화' 합성 미디어에서 눈을 떼지 마라
🗞 해당 기사를 읽고 느낀 점을 작성한 글입니다.
합성 미디어는 인공지능의 도움을 받아 생성되는 모든 종류의 미디어를 말한다.
지금까지 많은 합성 미디어 도구들은 학술 연구나 제한된 베타 기술이었지만, 이 기사는 이제 그 패러다임이 바뀔 것이라고 말한다. "4년 이내에 모든 온라인 콘텐츠의 약 90%가 합성 미디어일 것"이라고 예상하는 애널리스트도 있다.
나는 4년 이내에 미디어 흐름의 패러다임이 이렇게나 바뀔 수 있는지 의문이 들었다. 정치인의 얼굴을 합성해서 루머를 만들거나 연예인을 관련 없는 동영상에 합성해 남용되는 사례를 봐왔기 때문에 합성 미디어에 대한 부정적인 생각이 있기 때문이다.
가장 위험한 점은 이런 합성 미디어를 사용하는 권리나 허가를 다루는 법률이 존재하지 않는다는 점이다. 철저한 법 아래 안전하게 거하는 이로운 기술이 아니라, 어딘가에서 끊임없이 남용되고 법의 그늘 밖에서 인간의 삶을 괴롭히는 기술이라면 없어야 하는 게 맞다. 모든 기술이 발달하는 것이 최선의 방법이자 인류의 발전일 거라는 신념은 철저히 버려야 한다고 생각한다.
'딥페이크'라는 단어의 탄생 계기는 이렇다.
딥페이크
딥페이크(Deepfake)란 인공지능의 한 분야인 심층 학습(Deep Learning)과 가짜(Fake)의 합성어이다. 이 용어는 2017년 미국의 소셜네트워크 플랫폼 레딧에서 “Deepfakes”라는 아이디를 가진 회원이 유명 배우의 얼굴로 조작된 가짜 음란 동영상을 올리면서 사용되기 시작했다.
저절로 눈살이 찌푸려지는 사례이다. '딥페이크'라는 단어 자체가 딥페이크 기술의 남용 사례를 떠올리게 하다니. 적절하지 않다는 생각은 든다.
이 기사에는 실어증이 걸린 배우가 딥페이크를 통해 계속해서 광고와 미디어에 노출되고, 레오나르도 디카프리오, 일론 머스크가 허락 없이 딥페이크 광고에 사용되었다는 사례가 있다. 왜 굳이 인간의 실체를 두고 딥페이크 기술에 의존해 미디어를 생성해야만 하는지도 의문이다. 많은 인간의 한계를 기술로 뛰어넘을 수 있는 건 사실이지만, 굳이 불가능을 '과도한 가능'으로 만들어야할까?
💁🏻♀️ 딥페이크에게 나쁜 관점만 존재하는 것은 아닐테다. 딥페이크 남용 사례만 알고 있기 때문에 나에게 부정적 관점이 크게 자리 잡고 있을 거라는 생각이 든다. 딥페이크의 활용 사례를 찾아봤다.
🤖 딥페이크 활용 사례
1. <제미니 맨> - 디지털 디에이징
딥페이크 기술로 배우의 모습을 더 젊게 만든다. 포토샵을 활용한 CG보다 훨씬 더 정교하고 완벽한 디지털 디에이징 효과를 완벽하게 재현해냈다고 한다.
2. 신변 보호 - 버추얼 휴먼
"SBS 그것이 알고 싶다" 프로그램에서 2021년, 딥페이크 범죄 피해자의 모습을 모자이크가 아닌 딥페이크 기술을 활용해 방영했다. 피해자의 표정과 얼굴을 가리는 모자이크 방식을 사용하는 대신 딥페이크 기술을 활용해 익명성을 보장하면서도 시청자에게 이들의 감정을 생생하게 전달할 수 있었다.
모자이크 없이 시청자의 집중도를 끌어올릴 수 있는 미디어 매체로 활용한 점에서 좋은 활용 사례라는 생각은 들지만 딥페이크 범죄 피해자의 사례를 딥페이크로 재현하다니.. 모순적이고 과하다는 생각이 든다.
여전히 버추얼 휴먼에 대한 개인적인 거부감은 떨칠 수 없다. 굳이?
3. 질병 예방 - 이미지 패턴 매칭
CT, MRI, X선 이미지를 분석해 다양한 암의 징후와 이상신호를 탐지 모델을 개발했다고 한다. 원본 영상과 진위여부를 구별할 수 없을 정도로 정확한 딥페이크 의료영상을 만들어 인공지능이 질병을 올바르게 학습하고 진단하는 데 사용된다고 한다.
아주 잘 활용된 사례라고 생각한다. 환자의 개인적인 정보 유출은 막으면서 인공지능이 충분히 학습할 수 있는 정확한 데이터를 생성할 수 있다.
4.신기술 접목 – 재회
딥페이크와 음성 복원 기술을 접목해 김현식, 김광석, 터틀맨(임성훈) 등 그리운 이들의 목소리, 그리고 그룹의 완전체 모습을 다시 볼 수 있게 되었다.
음... 이번에도 '굳이?'라는 생각이 든다. 죽음이라는 순리를 묘하게 비껴가는 듯한 느낌을 준다. 남아있는 미디어를 보며 있는 그대로의 모습을 추억하는 것으로 충분하지 않을까? 이런 것들을 가능케하는 기술의 발전이 신기하기도 하지만 아직까지는 신기함 그 이상 그 이하도 아니다. 소름 돋고 이상하다. 고인이 자신의 모습을 딥페이크로 재현한 미디어가 대중들에게 소비되는 걸 즐길까?하는 의문도 든다. 그리운 이들의 모습에 감동을 느끼는 건 그들이 자연스레 하는 행동에 의한 것인데 AI로 재현된, 고인의 의사도 알 수 없는 춤과 노래를 시킨다? 역시나 기괴하다. (내가 너무 과민반응 하는 걸 수도 있지만... 나는 개인적으로 가상 인간이라는 개념을 별로 좋아하지 않는다.)
딥페이크의 의미, 활용 사례, 내 생각들을 적어보았다. AR/VR, 메타버스에 많은 사람들이 주목하고 있는 만큼 발전 가능성이 있는 기술이라는 생각은 든다. 개인적으로 딥페이크에 대한 부정적인 관점이 지배적이지만 언제든 생각은 바뀔 수 있다.
글을 작성하면서 신기술에 주목하고 비판적으로 사고하는 과정이 흥미로웠다.
에잉,,,쯧