구글 위협 인텔리전스 그룹(GTIG)이 AI를 활용해 개발된 제로데이 공격 코드 사례를 처음 확인했다.

구글 위협 인텔리전스 그룹(GTIG)은 최근, 지난 2월 발표 이후의 AI 위협 동향을 반영한 ‘AI 위협 추적 보고서’를 발표하고 이같이 밝혔다. 보고서에는 대규모 취약점 공격을 준비하던 범죄 집단이 AI 도움을 받아 실제 작동 가능한 제로데이 공격 코드를 개발한 정황이 담겼다.

해당 공격은 구현 과정의 오류로 실제 침해로 이어지지는 않은 것으로 파악됐다. GTIG는 관련 취약점을 개발사에 통보했으며, 패치가 완료됐다고 설명했다.

보고서에 따르면 북한과 중국 기반 국가 배후 위협 세력도 AI를 취약점 분석과 공격 코드 개발에 활용하고 있다. 북한 연계 APT45는 AI로 다수의 공격 코드를 검증하고 공격 자산을 구축한 것으로 나타났다.

에이전트 기반 도구를 활용한 공격 사례도 확인됐다. 중국 연계 위협 행위자는 일본 기술 기업의 취약점을 찾기 위해 자율적 탐색 도구를 사용했다.

러시아 연계 세력은 AI를 악성코드 고도화와 정보작전에 활용했다. 우크라이나 공격용 멀웨어 개선과 실제 뉴스 영상에 조작된 음성과 영상을 합성한 사례가 보고됐다.

일부 위협 그룹은 고성능 대규모 언어모델(LLM)에 접근하기 위해 계정 자동화와 신원 은폐 도구를 사용한 것으로 나타났다. 이를 통해 사용 제한을 우회하고 AI 서비스를 공격 활동에 활용하려 한 정황이 확인됐다.

구글은 AI 기반 방어 체계도 강화하고 있다. 제미나이를 활용한 악성 계정 차단, 빅 슬립을 통한 취약점 식별, 코드멘더를 통한 자동 수정 등이 포함된다.

존 헐트퀴스트 GTIG 수석 애널리스트는 “AI에 의한 취약점 전쟁은 이미 시작됐다”며 “위협 행위자들은 AI를 활용해 공격의 속도와 규모, 정교함을 높이고 있다”고 말했다.