주요 생성형 AI 서비스 사용 흔적 수집·분석, 범죄 전과정 분석

스마트 안경, 사진·영상 촬영 시점·위치·SNS 업로드 이력 확인

보안 전문기업 ㈜마에스트로 포렌식(대표 김종광)이 생성형 인공지능(AI)과 AI 스마트 안경 확산에 따라 등장하는 신종 디지털 범죄에 대응하기 위한 차세대 포렌식 솔루션을 공개했다.

마에스트로 포렌식은 13일 본사 사무실에서 기자간담회를 열고 MAESTRO WiSDOM AI Glasses Forensics와 MAESTRO WiSDOM Generative AI Forensics를 발표하며, AI 기반 범죄 수사 환경의 새로운 표준을 제시하겠다고 밝혔다.

최근 생성형 AI는 업무 혁신을 이끄는 핵심 기술로 자리 잡았지만, 동시에 범죄 수법도 한층 정교해지고 있다.

ChatGPT, Gemini, Claude 등 대중적인 생성형 AI 서비스는 이미지 생성, 문서 작성, 음성 분석 등 다양한 기능을 제공하면서 투자 사기, 딥페이크, AI 피싱, 허위 콘텐츠 제작 등에 악용되는 사례가 급증하고 있다.

김종광 대표는 “AI가 범죄자들에게 새로운 범죄 도구가 되고 있다”며 “기존 디지털 포렌식 체계만으로는 이러한 범죄를 효과적으로 추적하기 어려운 상황”이라고 진단했다.

특히 김종광 대표는 생성형 AI 범죄의 핵심 증거가 단순한 결과물이 아니라 사용자의 ‘질의와 응답 기록’이라고 강조했다.

실제 범죄 수사 과정에서 AI 서비스에 남겨진 질문 내용이 범행 의도를 입증하는 결정적 증거가 될 수 있다는 설명이다.

생성형 AI를 악용한 범죄의 경우 최종 이미지나 문서뿐 아니라 어떤 질문을 했고, 어떤 파일을 업로드했으며, 어떤 결과물을 생성했는지까지 추적해야 범죄 전 과정을 재구성할 수 있다는 것이다.

이번에 공개된 MAESTRO WiSDOM GenAI는 이러한 수사 수요에 맞춰 개발됐다.

해당 솔루션은 ChatGPT, Gemini, Claude 등 주요 생성형 AI 서비스에서 발생하는 사용 흔적을 수집·분석할 수 있도록 설계됐다.

AI 서비스 접속 기록, 사용자 계정 정보, 질문·답변 내역, 생성 이미지, 업로드·다운로드 파일 등을 통합 분석하며, 여러 AI 서비스를 동시에 활용하는 경우에도 연관 분석이 가능하다.

이를 통해 딥페이크 영상 제작, 허위 이미지 생성, AI 기반 투자 사기, 문서 위·변조 등 다양한 생성형 AI 범죄의 제작 과정을 입체적으로 재구성할 수 있다.

마에스트로 포렌식은 최근 급부상하고 있는 AI 스마트 안경 범죄에도 주목했다.

회사에 따르면 AI 스마트 안경은 카메라와 마이크, 스피커, AI 어시스턴트 기능을 내장한 웨어러블 기기로 활용성이 높지만, 불법 촬영과 개인정보 침해, 시험 부정행위 등의 범죄에 악용될 가능성이 크다.

기자간담회에서는 실제로 스마트 안경을 이용한 시험 부정행위 적발 사례와 불법 촬영 사례가 소개됐으며, 보급 확대와 함께 관련 범죄도 증가할 것으로 전망됐다.

이에 대응하기 위해 개발된 MAESTRO WiSDOM AI Glasses는 AI 스마트 안경과 연동된 스마트폰 데이터를 분석해 사용자의 활동을 추적한다.

촬영된 사진과 영상, 음성 데이터, 위치 정보, 이동 경로, AI 어시스턴트 사용 기록, 질의·응답 내역 등을 분석할 수 있으며, 모바일 아티팩트를 포함해 500종 이상의 디지털 증거를 통합 처리한다.

분석 과정에서는 사진·영상의 촬영 시점과 위치, SNS 업로드 이력은 물론 사용자가 AI 안경에 어떤 질문을 했는지까지 확인할 수 있다.

특히 위치정보 기반 타임라인 분석 기능은 용의자의 이동 경로와 촬영 행위를 시각적으로 재구성할 수 있도록 지원한다.

또한 OCR 기능을 활용해 사진 속 문자를 자동 추출함으로써 개인정보 유출이나 산업기밀 촬영 여부를 신속하게 확인할 수 있다.

김종광 대표는 AI 안경이 산업 현장과 물류, 의료, 장애인 보조 분야 등에서 큰 가능성을 갖고 있지만, 기업 기밀 유출과 사생활 침해 위험에 대한 대비도 함께 필요하다고 강조했다.

두 솔루션은 모두 기존 통합 디지털 포렌식 플랫폼인 MAESTRO WiSDOM에 탑재됐다.

이 플랫폼은 Windows, macOS, Linux, Android, iOS는 물론 AI 스마트 안경, 생성형 AI 서비스, 클라우드 환경까지 분석 범위를 확장했으며, 약 1,500개 이상의 디지털 아티팩트를 상호 연관 분석할 수 있다.

김종광 대표는 이를 통해 기존 방식보다 5배 이상 빠른 증거 식별과 분석이 가능하다고 설명했다.

김종광 대표는 “디지털 범죄가 PC와 스마트폰을 넘어 AI 스마트 안경과 생성형 AI 서비스로 확산되고 있다”며 “수사기관과 기업 보안 조직도 이제는 AI 환경에서 생성되는 디지털 증거를 분석할 수 있는 새로운 포렌식 기술이 필요한 시점”이라고 말했다.

이어 “AI 기반 범죄와 침해사고에 신속하고 정확하게 대응할 수 있도록 위즈덤 플랫폼을 지속적으로 고도화하겠다”고 밝혔다.