AI 보안 시장 동향
- 2027년까지 AI 보안 시장 규모가 약 74조 원에 달할 것으로 예상됨
- 주요 AI 연구 분야: AI 기반 침입 탐지 시스템, 이상 탐지 알고리즘, 금융 거래 분석, 자율주행 자동차, 게임 매크로 등 데이터를 많이 확보할 수 있는 영역에서 연구가 활발함
- AI와 보안의 관계: AI는 위협 감지 시간을 단축해 보안을 강화하는 동시에, 피싱 공격을 증가시키는 등 공격에도 활용되는 '양날의 검'과 같음
머신러닝과 딥러닝
- ML (머신러닝): 컴퓨터가 데이터를 기반으로 스스로 학습하도록 하는 기술임
- DL (딥러닝): 신경망을 통해 인공지능을 만드는 ML의 한 종류임
- ML vs DL:
- 머신러닝: 입력된 데이터에서 사람이 직접 특징을 추출하고 분류하는 과정이 필요함
- 딥러닝: 입력된 데이터에서 특징 추출과 분류를 자동으로 수행함
- 무어의 법칙: 반도체 집적회로의 성능이 24개월마다 2배로 증가한다는 법칙으로, 하드웨어 성능의 발전이 AI 시대의 급변을 이끌었음
AI 기반 보안 기술 및 연구 동향
- DarkBERT: 다크웹에 특화된 LLM으로, 사이버 범죄 탐지에 최적화되어 있음. 인터폴의 공식 파트너임
- 제로샷 학습 (Zero-shot Learning): 훈련 중에 보지 못한 데이터나 작업에 대해 예측할 수 있도록 하는 기술임. 데이터가 부족한 상황에서 유용함
- LLM 기반 APR: LLM을 이용해 소스 코드와 로그만으로 자동으로 취약점을 패치하는 연구가 진행 중임
- 멀티 LLM:
- 여러 LLM을 하나의 서비스로 통합해 각 LLM의 강점을 활용하거나,
- 텍스트 외에 이미지, 음성 등 여러 종류의 데이터를 동시에 처리하는 기술을 의미함
- 해커들의 LLM: WormGPT,
FraudGPT, DarkGPT 등이 있으며, 피싱 공격의 양을 대폭 늘리는 등 악용 사례가 있음
- AI 해킹 사례: 2016년 DEFCON에서 AI 해킹 프로그램인
Mayhem이 출전했으나, 인간 해커에 비해 최하위를 기록했음
- 이는 AI가 취약점을 찾을 수는 있지만, 아직 사람의 검토가 필요함을 보여줌
웹툰 불법 복제 현황
- 2023년 기준, 총 웹툰 산업 규모인 2조 1,890억 원 중 20.4%인 4,465억 원이 불법 복제로 인한 피해 규모로 추산됨
- '밤토끼'가 잡히자 '뉴토끼'가 활개치는 등 불법 웹툰 유통은 여전히 기승을 부리고 있음
웹툰 콘텐츠 보호 기술
- AI 기술 활용:
- 이미지 인식, 머신러닝, 딥러닝 등 AI 기술을 활용해 저작권 보호에 접목하고 있음
- 네이버웹툰은 불법 유통 속도를 늦추는 데 효과를 보였음. 다른 플랫폼은 작품이 거의 즉시 불법 유통되었으나, 네이버웹툰은 평균 4회차 정도의 지연이 있었음
- 이 4회차 지연은 웹툰을 즐겨보는 사람들에게 약 1달이라는 시간적 차이를 만들어 큰 효과를 냄
- 비가시적 워터마킹:
- 웹툰을 열람하거나 다운로드할 때, 사용자별 고유한 식별 정보를 이미지에 삽입하는 기술임
- 기술적 특징:
- 비가시성: 사용자가 눈으로 식별할 수 없는 수준으로 정보를 삽입함
- 강인성: 캡처, 리사이징, 필터 적용에도 삽입된 정보가 유지됨
- 식별성: 유출된 이미지에서 사용자를 추적할 수 있음
- 유일성: 이용자별로 고유한 워터마크를 삽입해 추적 정확성을 높임
- 기술적 불리함: 웹툰 구매 시 이미지 파일 자체를 제공하는 경우가 있고,
javascript를 비활성화하면 추적이 어려워지는 등 기술적으로 불리한 부분이 존재함
