국내 AI 안전 연구의 컨트롤타워 역할을 맡고 있는 한국전자통신연구원(ETRI) 인공지능안전연구소(AISI)가 지난 1년간의 성과를 공개하며 AI 안전 생태계 구축을 위한 본격적인 협력 강화에 나섰다.

ETRI AISI는 17일 성남 판교 조선그라비티 호텔에서 국내 AI 안전 분야 전문가들과 함께 AI안전컨소시엄 합동회의를 열고 지난 1년간의 연구성과를 공개했다. 이번 회의에서는 국제 AI 평가·안전 네트워크의 주요 동향과 컨소시엄 핵심 의제 추진 현황이 집중 논의됐다.

우리나라는 ‘AI기본사회’ 실현을 목표로 AI 혁신 생태계 조성, 전면적인 인공지능 전환(AX), 글로벌 거버넌스 선도를 추진하고 있다. 이 과정에서 국민이 체감할 수 있는 AI 안전 확보는 필수 요소로 부각되고 있으며, 글로벌 경쟁력의 핵심 기준으로 자리 잡고 있다.

AISI는 독자 AI 파운데이션 모델의 안전성·신뢰성 평가, 국제 AI 안전 네트워크 공동 평가 참여 등 국내외에서 AI 안전성 확보를 위한 노력을 이어왔다. 특히 AI안전컨소시엄과 협력해 연구성과 확산, 안전 평가 기술 공유, 정책·제도 논의 등 다각적 협력 기반을 강화했다.

회의에서는 △국제 AI 안전연구소 네트워크 활동 현황 △AISI의 1년간 연구성과 △컨소시엄 분과별 추진 결과와 향후 계획 등이 발표됐다. 또한 지난 12월 미국 샌디에이고에서 열린 제2회 글로벌 AI안전 네트워크 회의 주요 내용도 공유됐다. 이번 국제회의에서는 연구소 명칭 변경, 의장국 재편(영국), 운영체계 조정 등 국제 협력 환경 변화가 논의됐으며, AISI는 이에 대한 대응 방향과 국내 적용 방안을 제시했다.

AISI는 올해 구축한 데이터셋과 안전성 평가 방안 초안을 이날 회의에서 처음 공개했다. 전문가 검토를 통해 활용성과 유효성을 높이기 위한 의견을 수렴했으며, 앞으로도 기술 검토와 공동연구를 지속해 국내 AI 안전 기술 체계를 고도화할 계획이다.

AI안전컨소시엄은 향후 더 많은 기업·기관의 참여를 유도해 국내 AI 안전 생태계를 확장하고, 정책·연구 아젠다를 적극 발굴할 예정이다. 신규 참여 기관은 AISI 홈페이지를 통해 가입 신청이 가능하며, 준회원 등록 후 심의를 거쳐 정회원으로 활동할 수 있다.

김명주 ETRI 인공지능안전연구소장은 “내년은 국가 AI 정책과 글로벌 거버넌스가 크게 변동하며 국가 간 경쟁과 협력이 복잡하게 얽히는 전환점이 될 것”이라며 “ETRI가 중심이 되어 굳건한 AI 안전 생태계를 구축하고, 국민 안전·안심과 글로벌 경쟁력을 동시에 확보할 수 있도록 AI안전컨소시엄의 활동을 적극 확대하겠다”고 밝혔다.