슈어소프트테크(대표 배현섭)는 신년사를 통해 상반기 중으로 '인공지능(AI) 시스템 안전성 검증 서비스'를 론칭, AI를 활용한 SW 검증 역량을 강화하겠다고 8일 밝혔다.
디지털 전환이 가속화하며 AI 기술은 산업 전반에 빠르게 침투하고 있다. 하지만 '챗GPT'의 의료 오진, 자율주행 자동차 사고 등 AI 기술의 안전성 문제는 여전히 해결해야 할 과제로 남아있다.
각 업계에서 AI 기술에 대한 검증, 실제 상용화 인증 필요성도 점점 커지고 있다. ISO/IEC JTC 1/SC 42와 같은 국제 표준화 기구에서는 AI 기술 안전성 관련 표준 개발에 힘쓰고 있으며, 국내에서는 기업과 정부 차원에서 AI 기술 검증에 대한 투자를 활발히 하고 있다.
슈어소프트테크도 지난 20년간 SW 품질, 안전성 분야 연구개발과 서비스를 지속 주행해 왔다. 최근에는 SW 검증 역량을 빅데이터, AI와 접목하는 데 집중하고 있다.
지난 8월에는 빅데이터와 AI 전문 기업 모비젠을 인수하며 기술 기반을 마련했다. 오승욱 슈어소프트테크 CTO는 "AI 기술이 빠르게 발전하는 시대에, 우리는 품질과 안전성을 보장하는 데에 중점을 두고 있다"라며 "이를 위해 현재 관련 기술 개발을 진행 중이며, 상반기에는 그 결과물을 선보일 예정"이라고 말했다.
특히 AI 시대에 안전성 검증을 강화하기 위한 두 가지 주요 전략을 발표했다. '인공지능을 활용한 소프트웨어 검증(Test by AI)'과 '인공지능 시스템에 대한 검증(Test of AI)'이다.
첫번째 ‘테스트 바이 AI’는 인공지능을 활용한 소프트웨어 검증 강화를 목표로 한다. 검증 자동화 도구에 AI 기술, 특히 생성 AI 기술을 활용한 기능들을 추가 개발해 새로운 버전을 출시한 바 있다. 앞으로도 지속적으로 기능을 확대해 나갈 예정이다.
아울러 그간의 검증 노하우를 활용해 GPT 스토어에 'MISRA 디펙트 픽서' '오토노머스 드라이빙 시나리오 제너레이터' 등 자체 개발 GPT를 등록해 서비스 중이다. 이외에도 다양한 테스트 및 검증 관련 아이디어를 가지고 신규 GPT를 기획하고 제작 중에 있다.
두번째 ‘테스트 오브 AI’는 AI 시스템 자체의 안전성을 검증하는 기술이다. 인공지능 시스템의 개발 절차에 따라 데이터, AI 모델, AI 시스템 세 가지 관점에서의 품질 보장 항목들을 정의, 이를 위한 솔루션과 서비스를 구성해 개발하고 있다.
올해 상반기 출시 예정인 AI 모델 검증 자동화 도구의 경우, ISO/IEC TR 29119-11 표준에서 제시하는 오동작 유발 시험과 커버리지 테스트를 통해 AI 모델의 강건성, 신뢰성을 검증하고 ISO/IEC TS 4213에서 정의한 AI 모델의 기능 정확성을 측정한다.
또 ISO/IEC 25059에서 정의한 AI 시스템의 품질까지 평가할 수 있도록 KOLAS 시험기관의 인정 범위 항목으로 확대할 계획이다. 향후 인정범위 확대 승인 후 KOLAS 공인 시험성적서 발행도 가능할 예정이다.
배현섭 슈어소프트테크 대표는 "AI 시대에 안전한 소프트웨어를 제공하기 위한 노력의 일환으로, 산업의 안전성과 신뢰성을 높이는 데 기여할 것"이라며 "앞으로도 지속적인 연구와 개발을 통해 안전하고 신뢰할 수 있는 AI 기술을 핵심역량으로 확보해 나갈 것"이라고 말했다.
장세민 기자 semim99@aitimes.com
