“미래 산업의 초능력은 협력”, 기업 공동의 신뢰 플랫폼 구축해야

개방성 유지하면서 산업 현장 요구 수준 안전성·신뢰성 동시 확보

자율주행차와 산업용 로봇, 의료기기 등 인간과 직접 상호작용하는 시스템이 늘어나는 가운데, 글로벌 임베디드 소프트웨어 기업 QNX가 “AI를 똑똑하게 만드는 것보다 더 중요한 것은 AI가 안전하고 예측 가능하게 행동하도록 만드는 것”이라며 신뢰성, 안전성, 결정성을 갖춘 소프트웨어 기반의 중요성을 강조했다.

22일 서울 강남 조선팰리스에서 열린 ‘QNX 테크포럼 코리아 2026’에서 저스틴 문(Justin Moon) QNX 부사장(VP)은 ‘Building Embedded Systems We Can Trust for a Physical AI Future’를 주제로 기조 발표를 진행하며 피지컬 AI 시대를 위한 신뢰 가능한 임베디드 시스템 구축 전략을 제시했다.

저스틴 문 부사장은 “피지컬 AI의 순간은 이미 도래했다”며 “AI가 단순히 데이터를 분석하는 것을 넘어 현실 세계에서 인간과 함께 행동하고 의사결정을 수행하는 단계에 들어섰다”고 말했다.

자동차 산업은 물론 로보틱스, 산업 자동화, 의료 분야에서도 이러한 변화가 빠르게 진행되고 있으며, 앞으로 AI 시스템이 인간과 더욱 가까운 환경에서 운영될 것이라고 전망했다.

그는 특히 ‘행동(act)’의 중요성을 거듭 강조했다.

AI가 정보를 인식하고 판단하는 것만으로는 충분하지 않으며, 실제 행동 과정에서 오류가 발생할 경우 심각한 인명 피해로 이어질 수 있기 때문이다.

발표에서는 적색 신호에서 정차한 뒤 소프트웨어 오류로 교차로에 진입한 자율주행차 사례와 작업자가 로봇이 멈췄다고 판단한 상황에서 로봇이 예기치 않게 움직인 산업현장 사례가 소개됐다.

이는 AI의 인지 기능이 아니라 실제 행동 단계에서 신뢰 문제가 발생했을 때 어떤 위험이 초래되는지를 보여주는 대표적 사례라고 설명했다.

QNX는 이러한 문제를 해결하기 위한 신뢰의 핵심 요소로 안전성(Safety), 신뢰성(Reliability), 결정성(Determinism) 세 가지를 제시했다.

안전성은 시스템이 설계 의도대로 동작한다는 검증과 인증의 문제이며, 신뢰성은 장애가 발생했을 때 시스템이 이를 어떻게 극복하고 정상 상태를 유지하는가에 대한 능력이다.

결정성은 동일한 입력에 대해 항상 동일한 결과를 일정한 시간 내에 제공하는 특성을 의미한다.

특히 결정성은 피지컬 AI 시대에 필수적인 조건으로 평가됐다.

문 부사장은 “예측 가능성과 반복 가능성이 보장되지 않으면 안전한 시스템도, 신뢰할 수 있는 시스템도 구축할 수 없다”며 “동일한 입력에 서로 다른 결과가 나온다면 안전 시스템의 기반 자체가 무너질 수 있다”고 지적했다.

QNX가 개발자와 업계 관계자를 대상으로 수행한 조사 결과 역시 이를 뒷받침했다.

비결정적(non-deterministic) 시스템의 가장 큰 위험으로 응답자의 46%가 안전성을 꼽았으며, 시스템 불안정성 역시 주요 문제로 지적됐다.

저스틴 문 부사장은 “예측할 수 없는 타이밍은 단순한 성능 문제가 아니라 안전 문제”라고 강조했다.

그는 신뢰 가능한 실행 환경 구축을 위해 △온디바이스 AI 기반 피지컬 AI 워크로드 △높아지는 안전 요구 수준 △사이버보안 규제 강화 △하드웨어 통합 및 비용 효율성 △연결성 확대 △짧아지는 개발 주기 등 여섯 가지 요인을 고려해야 한다고 설명했다.

특히 연결성이 확대될수록 사이버 공격 표면도 넓어지는 만큼 보안은 신뢰성의 핵심 요소가 되고 있다고 덧붙였다.

문 부사장은 “이제는 한 기업이 단독으로 산업 문제를 해결하는 시대가 끝나고 있다”며 개방형 생태계와 파트너십의 중요성도 역설했다.

그는 “미래 산업의 초능력은 협력”이라며 유사한 철학을 가진 기업들이 공동으로 신뢰 가능한 플랫폼을 구축해야 한다고 말했다.

QNX는 이러한 철학을 바탕으로 지난 45년간 안전 필수(Safety-Critical) 산업을 위한 운영체제와 소프트웨어 플랫폼을 개발해 왔다고 소개했다.

현재 자동차, 산업용 로봇, 물류 자동화, 의료 등 분야에서 수억 대 규모의 장비에 자사 기술이 적용되고 있으며, 실제 현장 배치를 통해 신뢰성을 입증해 왔다고 설명했다.

기술적으로는 결정적 실행 환경, 강력한 격리 구조, 장애 복구, 멀티코어 기반 성능 확장성을 핵심 설계 원칙으로 제시했다.

이를 통해 사이버 공격이나 소프트웨어 결함이 발생하더라도 전체 시스템으로 장애가 확산되는 것을 방지하고, 안전한 상태를 유지할 수 있다고 설명했다.

또한 QNX는 오픈소스와 안전성이 상충 관계라는 인식에도 선을 그었다.

ROS 2를 비롯한 2,500개 이상의 오픈소스 패키지를 지원하고 있으며, 개방성을 유지하면서도 산업 현장에서 요구하는 수준의 안전성과 신뢰성을 동시에 확보할 수 있다고 강조했다.

“안전하다고 해서 폐쇄적이어야 하는 것은 아니며, 반대로 개방적이라고 해서 반드시 옳은 것도 아니다”라는 것이 그의 설명이다.

발표를 마무리하며 저스틴 문 부사장은 “누구나 기계가 생각하도록 만들 수 있지만, 우리는 그것이 안전하게 움직이도록 만들어야 한다”며 “혁신이 계속되기 위해서는 인간이 신뢰할 수 있는 시스템이 전제돼야 한다”고 말했다.

이어 “피지컬 AI 시대의 경쟁력은 얼마나 똑똑한 AI를 만들었는가가 아니라, 얼마나 안전하고 신뢰할 수 있는 방식으로 현실 세계에서 행동하게 했는가에 달려 있다”고 강조했다.