국방에 기여하는 국방기술품질원의 이야기

기술로 품질로

[기품人터뷰]

AI 적용 해양 유·무인 복합체계,
맞춤형 품질관리로 신뢰를 더하다

2024년 국방기술품질원 주관 선진화 정책연구

AI 기술이 빠르게 국방 분야에 스며들면서, 기존 무기체계에선 상상하지 못했던 새로운 품질관리 이슈들이 등장하고 있다. 특히 유·무인 복합체계처럼 복잡한 구조를 가진 무기체계는 더욱 정교한 접근이 필요하다. 국방기술품질원은 다양한 AI 기술을 기반으로, 각 체계의 특성을 반영한 ‘맞춤형 품질관리’ 방안을 연구 중이다. 이번 인터뷰에서는 미래 전장의 게임체인저로 떠오른 해양 유·무인 복합체계의 신뢰성을 확보하기 위한 품질관리 전략과 그 가능성에 대해 이야기를 나눠 보았다.

국방기술품질원 주관 선진화 정책연구

선진화 정책연구란?

국방기술품질원은 2014년부터 국방품질경영의 개선·발전 연구가 필요한 주제를 선정하여 선진화 정책연구를 수행해 오고 있다. 매년 실시하는 선진화 연구를 통해 현장 상황을 반영한 군수품 품질정책을 수립하고, 품질보증 기법 등을 개선·개발하여 효율적이고 체계적인 품질보증 활동을 도모하고자 한다. 이러한 노력은 곧, 무기체계 획득의 효율화와 가동률의 극대화로 이어질 것이다. 국방기술품질원이 그리는 국방품질의 현재와 미래를 2024년 선진화 연구과제를 통해 살펴본다.

해양 유·무인 복합체계 품질관리 방안 연구

대표 연구자 : 함정1팀 최우석·박연동 선임연구원

연구배경

① AI 기술 발전을 기반으로 무기체계 패러다임 변화 : 해양 유·무인 복합체계는 단계별로 발전될 전망이다. 1단계는 원격통제형 무인체계로 유인전력에 탑재되어 원격통제에 의한 전투지원임무를 수행한다. 이때 감시정찰체계에 전장인식 지능을 적용하여 해양 특성을 고려한 레이더, 소나신호 등을 효율적으로 탐색하고 식별할 수 있다. 2단계는 반자율형 유·무인체계로 유인전력 지시에 의한 반자율 기동이 가능하다. 함정전투체계에 자율판단 지능을 적용하여 운용자의 통제에 따라 사전 학습된 전장 정보를 바탕으로 임무를 수행한다. 3단계는 자율형 유·무인 복합체계로 자율형 군집기동에 의한 유무인 복합전투를 수행할 수 있다. 지휘통제체계에 결심지원 지능을 적용하여 다수 및 다종의 무인 전략을 동시 통합적으로 통제하여 군집기동을 통한 협동작전을 자율적으로 수행한다.

② AI 기술 적용된 해양 무인체계 품질관리 방안 : AI 기반 영상정보 분석지원 기능이 적용된 체계개발사업이 진행 중이나, 현재 AI 기술이 적용된 무기체계에 대한 품질관리 방안은 부재한 상황이다. 따라서 AI 기술의 위험과 한계(블랙박스 특성, 데이터 및 모델의 편향) 등이 존재하여, 기존 품질관리 방안인 규격에 의한 품질관리가 제한적이다.

③ AI 기술 도입 시, 새로운 형태의 품질 문제가 발생할 수 있는 요소 존재

순번 AI 위험 요소 내용
1 데이터 품질 학습에 필요한 데이터 품질이 부족하거나 학습과정이 적절하지 않을 경우에 위험이 발생할 수 있음
2 자동화 수준 자동화 수준에 따라 사람과 AI 기술 간 협업이 존재할 수 있으며, 그 협업이 위험요소가 될 수 있음
3 투명성 및 설명 가능성 부족 AI기술의 개발 및 학습과 관련된 정보가 투명하게 공개되지 않거나, AI의 판단 근거가 사용자를 이해시킬 수 있도록 설명되지 않는다면 AI를 신뢰하는 데에 한계가 존재함
4 시스템 하드웨어 문제 하드웨어 또는 센서의 결함이 AI 기술의 중지 및 위험을 야기할 수 있음
5 환경의 복잡성 복잡하고 다양한 주변환경이 AI 기술의 성능에 영향을 미쳐 위험이 발생할 수 있음
6 시스템 수명 주기 문제 AI기술은 기존 제품의 시스템 개발 라이프 사이클과 다른 특성을 가지고 있음
7 기술 성숙도 기술적으로 충분히 성숙되지 않거나 검증되지 않은 AI기술을 성급하게 사용하여 위험이 발생할 수 있음

고려사항

해양 무인체계 AI 기술에 대한 품질관리 방안을 수립하기 위해 품질관리 대상, 생명주기 단계, 품질관리 목표, 품질평가 방법 및 지표를 종합적으로 고려하였다. 또한, AI 시스템 품질 특성 관련 국제표준(ISO/IEC 25059)과 미 국방부의 AI 윤리원칙(DOD 3000.09:2023, Autonomy in weapon system)도 참고하였다.

연구절차

step 1. 문헌조사

우선 해양 유무인 복합체계 구축 단계와 계층도를 조사하고, 해양 무인체계 AI 기술 개념도와 기술 현황을 조사하였다. 나아가, 민수분야의 AI 기술 개념도와 기술 현황, 품질 문제 사례도 살펴보았다.

step 2. 범용 AI 기술 품질평가 방법론 개발

문헌 조사를 기반으로 해양 무인체계 AI 기술에 특화된 품질평가 항목(Level 1) 8개와 평가기준(Level 2) 48개를 도출하였다. 또한, AI 기술의 주요 구성 요소를 정의하고, 이를 토대로 품질평가 기준(Level 2)을 구성하는 세부 평가 기준(Level 3) 175개를 도출하였다.

step 3. 설문조사

방산업체를 대상으로 항목과 기준에 대한 설문조사를 실시하여, 그 결과를 품질평가 기준에 반영하였다. 예를 들어, ‘안전성’ 기준은 ‘보안성’ 항목에서 ‘기능성’ 항목으로 변경되었다.

step 4. AI 기술 품질평가 방법론 검증

연구 내용을 검증하기 위해 ‘무인수상정의 표적관리를 위한 영상인식 기술’에 방법론을 적용하였다. 먼저 해당 기술의 주요 구성 요소를 정의하고, 5W1H 기반으로 기술명세서를 작성하였다. 다음으로 3단계로 구성된 범용 AI 기술 품질평가체계와 무인수상정 AI 기술명세서를 기반으로 무인 수상정에 탑재되는 AI 기술에 맞춤화된 품질평가체계를 구축하였다.

활용방안

국방기술품질원은 함정 사업의 디지털 트윈 및 AI 개발관 관련하여 품질 기술지원을 수행할 예정이다. 대표적인 예로, 2027년 완료 예정인 정찰용 무인수상정 체계개발 사업이 있으며, 해당 체계에 적용될 AI 기술에 본 연구에서 수립한 품질평가 방법론을 활용할 수 있을 것으로 기대된다.


미니 인터뷰

Q1. 간략한 자기소개 부탁드립니다.
함정센터 함정1팀 최우석, 박연동 선임연구원입니다. 장보고-III Batch-II 전기분야 품질보증업무를 담당하고 있습니다.
Q2. AI 기술 발전과 함께 무기체계 패러다임이 변화하고 있습니다. AI 기술이 적용된 무기체계에 품질관리 방안이 아직 확립되지 않은 가운데, 해양 유·무인복합체계 품질관리에서 가장 큰 도전 과제는 무엇인가요?

해양 유무인 복합체계 품질관리에서 가장 큰 도전 과제는 AI 기술의 도입으로 인해 기존 무기체계에서는 발생하지 않았던 새로운 형태의 품질 문제가 나타날 수 있다는 점입니다. 이러한 새로운 형태의 품질 문제를 유발하는 주요 요소로는 데이터 품질, 투명성 및 설명 가능성 부족, 환경의 복잡성 등이 있습니다.

먼저, 학습에 필요한 데이터의 품질이 부족하거나 학습 과정이 적절하지 않을 경우 AI의 성능 저하로 이어질 수 있습니다. 또한, AI의 개발 및 학습과 관련된 정보가 투명하게 공개되지 않거나, 판단의 근거가 사용자에게 명확히 설명되지 않는다면 시스템에 대한 신뢰를 확보하는 데 한계가 생깁니다. 더불어, 실제 운용 환경이 복잡하거나 예측하기 어려운 상황에서는 AI 성능이 급격히 저하되어 작전 실패로 이어질 위험도 존재합니다.

이러한 특성들은 전통적인 품질관리 방식으로는 관리하기 어려우므로, 해양 유무인 복합체계에 탑재되는 AI 기술을 관리하기 위한 AI 기술 품질평가 항목 및 기준 마련이 필요했습니다.

Q3. 범용 AI 기술 품질평가 방법론을 개발하는 과정에서 가장 중요하게 고려한 요소는 무엇인가요?
"범용성"과 "맞춤화 가능성"입니다. 이는 특정 AI 기술에 한정되지 않고 해양 유무인 복합체계에 탑재되는 다양한 AI 기술에 폭넓게 적용할 수 있어야 하며, 각 체계의 특성에 따라 평가 항목과 기준을 맞춤화하여 사용할 수 있는 유연성을 확보하는 것이었습니다. 또한, 평가항목 및 기준이 이해 용이하고 충분하며 실용적으로 구성될 수 있도록 설문조사를 통해 보완하였습니다.
Q4. 본 연구에서 개발한 품질평가 방법론이 실제 체계개발과 운용에 어떤 방식으로 활용될 계획인가요?
본 연구의 정찰용 무인수상정 체계개발 사업의 AI 관련 기술지원 시 활용될 예정입니다. 정찰용 무인수상정 체계개발에 적용되는 AI 기술은 인공지능 기반 영상정보 분석지원 기능입니다. 체계요구조건 검토(SRR), 체계기능요구조건 검토(SFR) 등 체계공학 단계별 기술지원 시 활용하여 정찰용 무인수상정에 적용될 AI 기술에 대한 체계적이고 효과적인 기술지원을 할 예정입니다.
Q5. K-방산의 기술력이 주목받고 있는 가운데, 품질관리를 기반으로 ‘신뢰성’을 더욱 강화하는 것이 중요합니다. 연구원님께서 생각하는 ‘신뢰성’이란 무엇이며, 그 중요성에 대해 말씀해 주세요.

국방에서 ‘신뢰성’이란, 무기체계가 의도된 기능을 주어진 환경과 조건에서 일관되고 안정적으로 수행할 수 있는 능력을 뜻합니다. 이를 AI 기술과 연계해보면, AI 기술이 적용된 무기체계에서는 결과의 예측 가능성, 시스템의 안정성, 그리고 AI가 내리는 결정의 설명 가능성이 신뢰성 확보의 핵심이 됩니다.

특히 AI 기술은 자율적이고 복잡한 의사결정을 수행하기 때문에, 일정 수준 이상의 성능을 유지하면서도 사용자가 AI 기술의 결정을 이해할 수 있도록 설계되어야 합니다. 동시에 주어진 환경과 조건에서 일관되고 안정적으로 작동하도록 기술적 안전성을 갖추어야 합니다.

만약 AI 기술의 신뢰성이 확보되지 않을 경우, 예기치 못한 상황에서 무기체계의 오작동이나 잘못된 의사결정이 발생할 수 있으며, 이는 심각한 작전 실패나 인명 피해로 이어질 수 있습니다. 따라서 AI 기술에 대한 품질관리를 체계화하고, 이를 기반으로 신뢰성 있는 AI 무기체계를 확보하는 것이 무엇보다 중요합니다.

Q6. 국방기술품질원이나 국방 관련 분야에 제언하고 싶은 부분이 있다면 한 말씀 부탁드리겠습니다.
AI 기술이 국방 무기체계에 활발히 도입되고 있는 만큼, 대규모 언어 모델(LLM)을 활용하여 AI 기술 품질평가 항목 및 기준 도출한다면 특정 무인체계에 맞춤화된 평가항목 및 기준을 자동화된 방식으로 신속하게 도출할 수 있어 AI 기술의 효율적이고 체계적인 품질관리에 기여할 것으로 기대됩니다.
Q7. 앞으로의 연구 계획과 목표가 궁금합니다.
현재 개발된 해양 무인체계 AI 시스템 품질평가체계를 정찰용 무인수상정 체계개발 사업의 기술지원 시 활용할 예정입니다. 해양 무인체계 AI 시스템 품질평가체계의 유효성을 확인하고, 그 결과를 바탕으로 해양 무인체계 AI 시스템 품질평가체계를 지속적으로 보완 및 고도화할 계획입니다.