결국... AI 활용한 제로데이 취약점 공격 악성코드 현실화
클로드 mythos에 의해서 AI로 제로데이 취약점을 찾아서 공격하는 시나리오를 걱정해왔다. 실제로 구글 클라우드 위협정보그룹 (GTIG)의 최신 보고서에 따르면 AI를 활용한 제로데이 취약점 공격 코드가 실제로 발견되었다고 한다.
대규모 취약점 공격을 준비하던 범죄 집단이 AI의 도움을 받아 개발한 것으로 추정되는 실제 작동 가능한 제로데이 취약점 코드를 관찰했으며, 이는 위협 행위자가 AI를 통해 제로데이 개발에 성공한 최초의 사례이다.
이러한 불안감이 강해진건 클로드 Mythos 개발 이후이지만 해당 공격에서 Mythos를 이용해서 개발된 것은 아니라고 구글은 판단했다.
공격자들은 소프트웨어 취약점을 이용해 '2단계 인증'을 우회하려 한 것으로 조사됐다. GTIG는 이 취약점을 개발사에 통보해 보안 패치를 완료, 위협을 차단했다.
오픈클로드 같은 에이전틱 AI 도구를 이용한 자율적 해킹 공격, 대규모 AI서비스를 공격에 활용하기 위한 LLM 권한 확보 시도등도 주의가 필요하다.
북한과 중국지원을 받는 위협 행위자들도 취약점 분석과 공격 코드 개발에 AI를 적극 활용하고 있으며 실제로 북한 APT45 그룹은 AI를 활용해 수천개 공격 코드를 검증하고, 공격 자산을 대규모로 구축한 것으로 조사된다.
