텍스트마이닝을 활용한 항공무기체계의 사용자불만 분석

Analysis of User Complaints of the Air Force Weapon System Using Text Mining

Article information

J. KIMS Technol. 2024;27(6):784-796
Publication date (electronic) : 2024 December 5
doi : https://doi.org/10.9766/KIMST.2024.27.6.784
1)Department of Management of Technology, Gyeongsang National University, Korea
2)Defense Rapid Acquisition Technology Research Institute, Agency for Defense Development, Korea
3)Department of Industrial and Systems Engineering, Gyeongsang National University, Korea
황혜원1), 김영진2), 전정환3),
1)경상국립대학교 기술경영학과
2)국방과학연구소 부설 국방신속획득기술연구원
3)경상국립대학교 산업시스템공학부
* Corresponding author, E-mail: jhjeon@gnu.ac.kr
Received 2024 August 19; Revised 2024 September 19; Accepted 2024 October 8.

Trans Abstract

User complaints are occurring due to the inability to meet user needs, such as the performance and ease of use of military supplies. Over the past five years, an average of 1,115 user complaints have occurred, and the Defense Agency for Technology and Quality(DTaQ) is handling the complaints collected from the requesting military. This user complaint information is accumulated as unstructured data in the Quality Information Service(IQIS) and Excel, making systematic analysis difficult. Therefore, this study aims to identify the status of user complaints related to air weapon systems using network analysis. This research is significant as it quantitatively analyzes user complaint data through the analysis of unstructured data, and the results are expected to serve as reference material for future quality assurance activities and user complaint handling.

1. 서 론

국방품질에 대한 패러다임이 규격충족에서 수요군 만족을 위한 개발, 양산, 배치 및 운용, 폐기의 총 수명주기로 확장되면서 정부 품질관리기관을 중심으로 품질보증 확보를 위한 다양한 품질보증 활동 및 정책연구가 활발히 진행되고 있다[1]. 정부품질보증활동의 목표는 군수품의 총 수명주기에 걸쳐서 규정된 품질요구조건과의 일치성을 보장하는 것이고[2], 국방기술품질원에서 방위사업청에 의하여 중앙 조달되는 국내 군수품에 대한 정부품질보증활동을 주도하고 있다[3].

최근 들어 신형 전투화의 대량 하자 발생, 40 mm 탄약 폭발사고, K 계열 무기체계의 품질결함 등 군수품 전 분야에서 다양한 품질 문제가 발생하고 있으며[4], 이러한 문제에 대한 신속한 대처 및 예방을 위하여 군수품에 대한 정부품질보증활동의 강화가 요구된다[5]. 그럼에도 군수품의 성능, 신뢰성 등이 사용자 요구를 충족하지 못하여 사용자불만이 발생하고 있으며, 국방기술품질원의 대군기술지원팀 및 각 전문센터에서 소요군으로부터 수집한 사용자불만 발생 사항을 처리한다. 최근 5년간 평균 1,115건의 사용자불만이 발생하였고, 2020년 제기된 사용자불만은 1,040건이다.

사용자불만 데이터는 군수품 품질관리를 위해 국방기술품질원에서 운영하고 있는 대군 품질관리시스템인 품질정보서비스(IQIS, Integrated Quality Information Service for military supplies)와 항공센터에서 자체적으로 관리하는 사용자불만 세부현황(Excel)에 군수품 결함 및 원인 등이 다양한 형태의 비정형 데이터로 기록되어 있고, 이러한 군수품 품질정보 데이터는 현재 활용되지 못한 채로 다량 축적되고 있다.

국방산업 관련 데이터 증가 및 기술 성장에 따라 유의미한 정보를 추출하여 군수품 품질보증 활동, 국방연구개발 등에 활용하는 것이 요구되며[6], 데이터 기반 경향 파악은 다수의 상황에 유연한 대처가 가능하도록 하여 업무의 생산성을 제고한다. 이에 군수품 품질 정보를 체계적으로 수집하고, 축적된 정보를 효과적으로 활용할 방안을 마련하여 데이터 기반 업무체계를 구축하는 것이 필수적이다. 또한, 군수품의 품질 개선을 유도하고 안정적인 후속 군수 지원 체계를 구축하기 위해서는 품질보증 활동 중 수집된 사용자 불만 데이터를 체계적으로 분석할 필요가 있다.

이에 본 연구에서는 2020년에 제기된 항공 분야의 사용자불만 데이터를 분석하여 항공무기체계의 사용자불만 발생 현황을 파악하고자 한다. 이를 위하여 KeyBERT를 활용하여 핵심 키워드를 추출하고, 추출된 키워드를 기반으로 네트워크 분석을 실시하고자 한다. 구체적으로 중심성 분석을 통해 사용자불만의 핵심 키워드와 향후 파급력이 클 것으로 예상되는 키워드를 파악하고, 응집구조 분석을 실시하여 주로 함께 발생하는 사용자불만 키워드들을 그룹핑한다. 또한 이원 속성 네트워크 분석을 통하여 항공무기체계의 중분류, 품류, 사용자불만 분류별 주요 사용자불만 키워드를 도출한다.

본 연구의 구성은 다음과 같다. 제2장에서는 사용자불만 및 네트워크 분석의 이론적 배경과 국방 품질보증 데이터 분석한 선행연구에 대해서 기술할 것이다. 제3장에서는 연구에서 제안하는 연구 방법에 대해 기술할 것이다. 제4장에서는 네트워크 분석 방법론을 활용하여 항공무기체계의 사용자불만 데이터의 실증 분석을 수행할 것이다. 마지막으로 제5장에서는 본 연구의 요약, 의의 및 한계에 대하여 기술할 것이다.

2. 이론적 배경 및 선행연구

2.1 사용자불만

국방기술품질원은 방위산업진흥국장의 조정·통제하에 각 군 및 업체와 협조하여 운영 중인 군수품에 대한 정기 및 수시 품질정보수집, 품질결함 확인 및 사용자불만 처리, 탄약오작용 조사, 성능개량 제안, 최초배치장비 기술지원 등의 대군 기술지원업무를 수행한다[7]. 사용자불만이란 배치/운영단계에서 군수품의 성능, 신뢰성 및 사용 편의성 등이 사용자의 요구를 충족시키지 못하여 불만을 제기하는 사항을 의미하고[8], 국방기술품질원에서는 소요군에서 제기한 불만사항을 분석·조치하는 사용자불만 처리 활동을 실시하고 있다. 사용자불만이 제기되면, 품질보증기관에서 기술조사 및 원인 규명을 실시하고 사용자불만 결과를 Table 1의 내용에 따라 하자, 규격 및 기술자료 미흡, 개선 요구, 계약착오, 사용자 운용미흡, 통보착오, 책임소재 불분명, 결함원인 분석불가, 기타로 분류한다. 단, 조사 결과 사용자불만의 원인이 명백하지 않은 경우에는 사용자불만 심의회를 통하여 하자 여부를 판단한다[7].

Classification of user complaints[9]

2.2 품질보증 데이터를 활용한 선행연구

국방 품질보증 활동 중 수집된 데이터를 활용한 선행연구를 조사하여 Table 2에 나타냈다.

Previous studies using quality assurance data

Kim&Lee(2018)는 국방기술품질원의 품질보증체계에 기록된 시정조치현황과 하자발생현황 데이터를 분석하여 QPI 제품품질 수준 평가 시 보다 정확한 평가를 위한 수학모델을 제안하였다[10].

Lee&Yoon(2018)은 기계식시한신관 KM577A1의 저장탄약신뢰성평가를 통해 얻어진 데이터로부터 품목의 저장수명추정에 필요한 로트선별기준을 제시하였으며, 시한시간 신뢰성점수와 시산실패 데이터를 분석하여 저장수명을 추정하였다[11].

Eom et al.(2023)는 운용단계에서 식별한 SW 결함들이 개발단계로 효과적인 환류가 가능하도록 위험관리맵을 제안하였다. 이를 위하여 각 무기체계와 관련된 SW 결함들을 쉽게 확인할 수 있는 기술변경 데이터베이스를 구축하고, SW 위험도를 한눈에 볼 수 있는 시각화 자료를 제시하였다[12].

Huh et al.(2023)는 C5ISR 분야의 전술 통신과제 관련 2차 전지의 품질 문제를 해결하기 위하여 빅데이터 분석 기반 양품/불량품 분류 및 예측 모델을 제안하였다. 또한 품질 정보 시스템의 빅데이터 기반 구축 및 발전방안을 제시하였으며, 기존의 S-QIS 시스템을 고도화하여 협력사와의 데이터 활용방안을 제시하였다[13].

Eom et al.(2024)는 운용 중인 무기체계에서 발생한 SW 결함을 데이터베이스로 구축하는 방안을 제시하고, SW 결함 현황을 분석하였다. 이를 통해 SW 결함의 주요 원인을 파악하였으며, 연도별 결함 발생 경향과 무기체계별 결함 분포를 확인하였다[14].

Oh&Gwak(2024)은 시정조치, 사용자불만 품질 데이터를 분석하여 품질 문제 발생 횟수를 파악하고, 위험 발생 가능성을 평가하였다. 또한 함정 무기체계 품질관리의 효율성을 높이기 위하여 납품 업체별 품질 수준을 고려한 표준위험도 평가방안을 제시하였다[15].

선행연구들은 품질보증 시 수집된 데이터를 체계적으로 분석하여 다양한 품질 문제를 해결하기 위한 방안을 제안하고 있으며, 이는 데이터 기반의 품질 관리가 효과적인 품질보증 활동을 가능하게 함을 시사한다. 그러나 이러한 연구들은 주로 정형화된 데이터에 집중되어 있었고, 비정형 데이터를 체계적으로 분석하여 군수품 품질보증 활동에 적용하려는 시도는 미흡했다. 특히 사용자불만 정보는 품질 문제의 결함내용 및 조치사항 등을 포함하고 있어 유용한 품질 정보를 확보할 수 있는 중요한 수단임에도 불구하고, 현재 사용자불만 데이터는 다양한 문서와 텍스트 형식으로 작성되어 축적만 되고 있으며 체계적인 관리와 분석이 이루어지지 않고 있다. 국방기술품질원에서는 매년 천여 건의 사용자불만을 처리하고 있으며, 이러한 사용자불만 정보는 유용한 품질정보 확보 수단으로 체계적인 분석과 관리가 필요하다. 이에 본 연구에서는 사용자불만 처리 시 작성된 내용을 심층 분석하여 유의미한 정보를 추출하고, 향후 품질보증 활동에 활용할 수 있는 방안을 마련하고자 한다.

2.3 KeyBERT

KeyBERT는 텍스트 임베딩 단계에서 BERT를 활용하고, 코사인 유사성을 계산하여 문서를 가장 잘 나타내는 키워드 또는 구문을 찾아주는 인공지능 모델이다. 유사성 계산 단계에서 MSS(Max Sum Similarity)를 사용하여 후보 간의 유사성을 최소화하면서 문서와의 후보 유사성을 극대화하고, MMR(Maximal Marginal Relevance)을 사용하여 텍스트 요약 작업에서 중복을 최소화하며 결과의 다양성을 극대화한다. 이러한 접근 방식 덕분에 해당 모델은 일부 성능 평가에서 인간보다 더 높은 정확도를 보이며, 범용 목적의 언어 이해 모델을 훈련시켜서 다양한 NLP 태스크에 적용될 수 있다[16]. Fig. 1은 KeyBERT의 워크플로우를 시각적으로 나타낸 것이다.

Fig. 1.

KeyBERT workflow[17]

2.4 네트워크 분석

네트워크 분석(Network Analysis)이란 텍스트로 구성된 문서나 문헌에서 단어를 추출하고, 단어들 간의 공동출현 연결 관계를 근간으로 문서나 문헌의 텍스트에 내재된 의미를 분석하는 기법이다[18]. 이 방법론은 문헌이나 문서의 텍스트에 잠재되어 있는 의미구조와 맥락을 고찰하는데 매우 유용하며, 문서나 문헌의 텍스트에서 추출한 텍스트의 패턴을 분석하여 시각화 가능한 것이 장점이다[19]. 또한 중심성 분석을 통해 노드와 노드 간 링크로 구성된 네트워크 구조적 특징을 계량적으로 분석 가능하며, 측정 지표로는 연결중심성(Degree centrality), 근접중심성(Closeness centrality), 매개중심성(Betweenness centrality), 위세중심성(Eigenvector centrality)이 대표적이다.

연결중심성이란 특정 노드에 주변 노드가 얼마나 많이 연결되어 있는가를 측정하는 지표이다. 연결중심성이 높은 노드는 다른 많은 노드들과 직접적인 관계를 맺고 있으므로, 네트워크 내에서 영향력이 크다[20].

근접중심성이란 특정 노드가 다른 노드와의 거리가 얼마나 가까운지, 전체 네트워크에서 중앙에 위치하는 정도를 측정하는 지표이다. 근접중심성이 높은 노드는 다른 노드들과의 거리가 짧아 네트워크의 모든 노드에 쉽게 도달할 수 있으므로 빠르게 다른 노드에 영향을 주거나 받는다[21].

매개중심성이란 특정 노드가 다른 노드와 네트워크 구성 시 매개자 역할을 얼마나 잘 수행하는지를 측정하는 지표이다. 한 노드가 네트워크 내의 다른 노드들 사이의 최단 경로에 위치할수록 그 노드의 매개중심성이 높아진다[22].

위세중심성이란 네트워크의 특정 노드가 영향력이 높은 노드와 연결되어 있는 정도를 측정하는 지표이다. 다른 중심성이 낮아 잘 식별되지 않은 노드이더라도 같이 연결되어 있는 노드들이 높은 중심성을 가질 경우 식별된다는 점에서 중요한 지표이다[23].

3. 연구설계

본 연구에서는 항공무기체계의 사용자불만 발생 현황을 파악하기 위하여 Fig. 2와 같은 프로세스로 연구를 진행하였다.

Fig. 2.

Research process

먼저 국방기술품질원에서 관리하는 IQIS와 항공센터에서 자체적으로 작성한 사용자불만 세부현황(Excel)으로부터 2020년에 제기된 항공무기체계의 사용자불만 472건을 수집하였다. 수집된 사용자불만 데이터에는 사용자불만 처리시 작성된 재고번호, 품명, 형태, 무기체계 분류, 제기내용, 결함내용, 조치내용 등의 내용이 포함된다. 항공센터는 사용자불만 처리 시 IQIS 를 사용하지 않고 자체 데이터셋으로 관리하고 있어, IQIS 데이터와 일부 항목에서 차이가 존재하였고, 정보의 누락이 확인되었다. 이에 IQIS 데이터와 항공센터의 데이터를 통합하고 보완하는 작업을 수행하였으며, 항목별 명칭을 통일화하였다. 최종적으로 품류, 무기체계 분류, 무기체계 중분류, 결함원인 분류, 결함내용, 검토내용을 분석 대상으로 선정하였고, 이중 결함내용과 검토내용을 중심으로 분석을 진행하였다.

데이터 전처리 단계에서는 숫자 및 기호 제거, 조사 제거 등과 같은 기본적인 텍스트 정제를 진행하였다. 또한 ‘오링’, ‘O-ring’, ‘oring’, ‘o-ring’처럼 동일한 의미이지만 띄어쓰기나 표현의 차이로 다른 키워드로 인식될 경우를 대비하여 형태적으로 유사한 키워드와 의미적으로 유사한 키워드를 표준화하는 과정을 거쳤다. 이후 n-gram 분석, 키워드 빈도 분석 등을 통하여 불필요한 정보를 식별하고, 반복적인 검토를 통하여 ‘측정결과’, ‘점검결과’, ‘발생수량’, ‘고장내용’ 등과 같은 분석에 유의미한 정보를 제공하지 않는 키워드를 제거하는 불용어 처리를 진행하였다.

본 연구에서는 BERT를 기반으로 하고 코사인 유사성을 계산하여 문서를 대표하는 키워드를 찾아주는 모델인 KeyBERT를 활용하여 사용자불만 키워드를 추출하였다. 임베딩 모델로는 SKT에서 개발한 한국어 BERT 모델인 KoBERT를 사용하였다. 분석은 Python 3.11 환경에서 진행하였으며, 키워드 추출을 위한 파라미터는 MMR은 0.7로, MSS는 20으로 설정하여 키워드의 다양성과 적합성을 고려하였다. 또한 본 연구에서 사용한 데이터셋은 BERT 기반 대형 언어 모델(LLM)의 토큰 수 제한 문제에서 자유로워, 데이터 처리와 모델 적용에 제약 없이 분석을 진행하였다.

네트워크 분석은 KeyBERT로 추출한 사용자불만 키워드를 바탕으로 진행하였다. 사용자불만 키워드의 1-mode(동일 키워드 속성 간) 네트워크를 구축하여 중심성 분석을 수행하였으며, 응집구조(Cohesion Analysis)를 통하여 집단그룹을 도출하였다. 또한 항공무기체계의 중분류 및 품류 그리고 사용자불만 분류와 사용자 불만 키워드 간의 이원 속성 네트워크 분석을 통하여 분류별 사용자불만 주요 키워드를 도출하였다.

4. 분석결과

4.1 데이터 수집 결과

2020년 제기된 항공무기체계의 사용자불만은 회전익항공기 391건, 무인항공기 57건, 고정익항공기 15건 그리고 항공전투지원장비 9건으로 총 472건 발생하였으며, 결과는 Table 3과 같다. 회전익항공기, 무인항공기, 고정익항공기의 사용자불만은 대부분 하자에 의하여 발생하였으며, 항공전투지원장비의 경우 개선이 요구되는 사항에 대하여 다수 발생한 것으로 나타난다.

Current status of user complaints in air force weapon system

4.2 키워드 빈도 분석 결과

KeyBERT를 활용하여 항공무기체계의 사용자불만 키워드를 하였고, 사용자불만 건별로 5개의 핵심 키워드를 추출한 결과 총 859개의 키워드가 추출되었다. Table 4는 추출한 키워드 중 상위 30개의 키워드와 빈도를 나타낸 결과이고, 단풀불량, 결함코드, 손상, 시현, 결함, fail, 불량, 균열 순으로 발생 빈도가 높은 것으로 나타났다.

Frequency of top 30 keywords

‘단품불량’ 키워드는 108회로 가장 높은 빈도로 발생하였으며, 다양한 품목에서 문제가 발견되었다. 주요 품목으로는 seal, 합성기, 냉각팬, 센서, 유압호스, 배유호스, 백열등, 베어링 등이 있다. 이 사용자 불만들은 모두 하자인 것으로 나타났으며, 주로 성능/내구성/제품의 신뢰성 문제, 치수/조립/가공 불량, 재질 및 원자재 불량의 원인으로 발생한 것으로 나타난다.

‘결함코드’ 키워드는 67회로 두 번째로 많이 발생하였다. 주요 결함코드로는 hmw, mwr, apm, fdrm dau, hums, rwr, fqms, flir, dct 등이 있다. 이 사용자불만 또한 모두 하자인 것으로 나타났고, 성능/내구성/제품의 신뢰성 문제의 원인으로 사용자불만이 발생하였다. 이외에도 엔진, 회로카드, 케이블 등 다양한 품목에서 균열, 작동불량, 누유, 마모 등과 같은 여러 가지 사용자 불만이 발생하였다.

4.3 네트워크 분석 결과

4.3.1 중심성 분석

Table 5는 항공무기체계의 사용자불만 키워드의 연결, 매개, 위세 중심성 분석 결과이다. ‘결함코드’, ‘단품불량’은 연결중심성 지수가 높은 키워드로 다양한 결함 유형과 품목 키워드들과 연결되어 있다. 이 두 키워드는 항공무기체계의 사용자불만의 주요 원인으로 작용하고 있으며, 사용자불만을 발생시키는 데 있어 큰 비중을 차지하고 있다. 이러한 키워드들은 사용자들이 느끼는 불만의 핵심 요소로, 문제 해결을 위한 우선적 접근이 필요함을 강조한다.

Top 15 keywords by centrality index

마찬가지로 ‘단품불량’, ‘결함코드’가 매개중심성이 높은 키워드로 나타났으며, 이외에도 ‘손상’, ‘mr’ 등의 키워드가 네트워크 내에서 중요한 연결고리 역할을 하며, 얼마나 자주 중개 역할을 하는지 알 수 있다. 이처럼 매개중심성이 높은 핵심 키워드들이 향후 여러 사용자불만에서 중개 역할을 할 것으로 예상되며, 이들 키워드가 제거될 경우 네트워크 전체에서의 연결과 흐름에 큰 영향을 미칠 것으로 보인다. 이에 해당 사용자불만의 관리 및 개선을 통해 다양한 사용자불만을 방지할 수 있을 것이다.

다른 중심성 지수는 낮지만 근접중심성이 높은 ‘찢어짐’ 키워드는 다른 키워드들에 비해 발생 빈도나 중요성에서는 상대적으로 낮을 수 있지만, 다른 키워드들과 빠르게 연결될 수 있는 특성을 지니고 있다. 따라서 ‘찢어짐’과 관련된 결함이 다양한 영역에서 발생할 수 있는 가능성을 고려하여, 해당 키워드에 대한 지속적인 모니터링과 관리가 필요하다.

연결, 매개중심성은 다소 낮지만 위세중심성이 높은 ‘seal’, ‘tgb’, ‘누유’ 키워드는 영향력 있는 키워드들과 연결되어 있는 키워드로, 향후 더 큰 영향력을 행사할 수 있으며, 특정 결함이나 문제를 확산시킬 수 있는 주요한 키워드이다. 이에 관련 불만 사항의 개선이 이루어진다면 향후 이로부터 유발될 다양한 사용자불만을 예방할 수 있을 것이라 예상된다.

모든 중심성 지수에서 높은 순위를 차지하는 ‘결함코드’와 ‘단품불량’은 항공무기체계의 사용자불만 핵심 키워드로서 이에 대한 체계적이고 지속적인 관리가 항공무기체계의 사용자 만족도를 높이는 핵심 요소가 될 것이다. 따라서 해당 사용자불만의 원인을 신속하게 해결하는 것이 필수적이다. 이를 위해 정기적인 사용자의 피드백 수집과 데이터 분석이 필요하며, 체계적이고 지속적인 관리가 이루어져야 한다.

4.3.2 응집구조 분석

응집구조 분석(Cohesion Analysis)을 실시하여 주로 함께 발생하는 사용자불만 키워드들을 그룹화하였다. Community(Eigenvector) 분석 결과 총 총 134개의 그룹이 도출되었으며, 그중 비중이 큰 상위 7개의 그룹을 Table 6에 제시하였다.

Community group

결함코드 그룹은 비중이 가장 큰 그룹으로 mwr, cpm, hmd, emb, fail 등의 결함코드 종류 및 발생 원인과 관련된 키워드들로 구성된다. 결함코드 관련한 사용자불만의 예로 내부 cpm의 불량으로 인하여 hmd 결함코드가 다수 시현되었으며, 내부 mp 보드 불량에 따른 mwr 결함코드 시현, 신호처리기판 하위 소자의 손상에 따른 fqms 결함코드 시현 등이 있다.

단품불량 그룹은 seal, tgb, 누유, 드레인, 공기 등 총 14개의 키워드로 구성된다. 단품불량 관련한 사용자불만의 예로는 seal 단품불량에 따른 tgb 및 mbg 오일 누유, 드레인 호스 단품불량에 의한 드레인 호스 연결부 손상, cwp 단품불량에 따른 주의등 점등 등이 있다.

손상 그룹은 엔진, 손상, run, 미흡, 팽창시일, 찢어짐 등의 키워드로 구성되며, 손상 관련 사용자 불만 예로는 엔진 거동에 의한 엔진 팽창시일 찢어짐, 엔진 run 미흡에 따른 휠 부식 등의 사용자 불만 등이 존재한다.

mr 댐퍼 결함 그룹은 mr, 댐퍼, pu, 접착분리 등의 총 12개의 키워드로 구성된다. 이와 관련된 사용자 불만으로는 sealant 노후화에 따른 pu 와셔의 접착 분리, 피로 누적에 의한 파손, 온도충격 및 진동 등의 운용환경에 의한 손상현상 가속화 등이 있다.

충돌방지등 결함 그룹은 충돌방지등, 작동불량, 내부, 수분유입 등으로 구성되며, 관련하여 light 조립체의 내부에 수분이 유입되어 충돌방지등이 작동 불량한 사용자불만이 다수 제기되었다.

마지막 회로카드 결함 그룹은 결함, 컴퓨터, 회로카드, mps로 구성되며 관련 사용자불만으로 회로카드 조립체의 결함에 따른 mps 컴퓨터에서 dtc 인식 불가 사례가 제기되었다.

응집구조 분석 결과, 특정 키워드와 연결된 여러 품목, 현상, 원인들이 커뮤니티 그룹으로 묶여 나타났으며, Fig. 3과 같이 시각적으로 표현되었다. 각 노드는 특정 사용자불만의 품목, 현상, 원인을 나타내며, 노드의 크기는 해당 키워드의 중요도를 보여준다. 노드 간의 연결선은 결함 간의 연관성을, 링크의 두께는 결함 간의 연관 강도를 나타낸다.

Fig. 3.

Result of cohesion analysis

‘단품불량’, ‘손상’, ‘결함코드’ 등은 노드의 크기가 매우 크고 네트워크의 중심에 위치하며, 여러 다른 키워드들과 직접적으로 연결되어 있다. 이러한 키워드들은 다른 결함 및 현상들과 연관성이 크고 네트워크 전반에 걸쳐 중요한 역할을 하고 있으므로, 선제적 관리와 예방이 필요하다.

이 시각화 자료는 키워드들이 함께 발생하는 패턴과 한 결함이 다른 결함을 유발할 가능성을 보여주며, 키워드들의 상호 연관성을 파악하는 데 도움을 준다. 또한 각 결함의 원인과 결과 간의 연결을 시각적으로 이해하는 데 유용하다.

4.3.3 이원 속성 네트워크 분석

2-mode 분석을 통해 항공무기체계의 중분류, 품류, 사용자불만 분류와 사용자불만 키워드 간의 네트워크 분석을 실시하였다.

항공무기체계의 중분류는 회전익항공기, 무인항공기, 고정익항공기, 항공전투지원장비로 구분되며, 이 중분류와 사용자불만 키워드 간의 2-mode 네트워크를 도출하여 공동출현 빈도가 높은 키워드들을 바탕으로 Table 7과 같이 대상 및 품목 키워드/ 현상 및 결함 키워드로 구분하여 나타냈다. 예로 회전익항공기는 엔진, tgb, mgb, idmc, 댐퍼, seal, 회로카드, 충돌방지등의 대상 및 품목에서 사용자불만이 발생하였으며, 주요 현상과 원인으로는 단품불량, 결함코드 시현, 균열, 누유, 마모, 접촉분리 등이 있다. 무인항공기는 케이블, 통합대기자료센서, 비행체점검장비, 엔진 등에서 사용자불만이 발생하였으며, 결함, 소음, 접촉불량, 균열 등이 주요 현상으로 확인되었다.

User complaint keywords by subcategory of air force weapon system

항공무기체계의 품류는 항공기, 일반장비, 항공기타, 전자장비, 장륜차량, 소화기 및 화포, 유도무기로 구분되며, 이 품류와 사용자불만 키워드 간의 2-mode 네트워크를 도출하여 공동출현 빈도가 높은 키워드들을 바탕으로 Table 8과 같이 대상 및 품목 키워드/ 현상 및 결함 키워드로 구분하여 나타냈다. 예로 항공기의 엔진, seal, mgb에서 사용자불만이 다수 발생하였으며, 주요 현상 및 결함으로는 단품불량, 결함코드 시현, 균열, 누유, 마모 등이 있었다. 또한 일반장비 중 안정화구동장치, 탱크하부, joint 등에서 가스누출, 탄성미흡, pbit fail 등의 현상이 발생하여 사용자불만이 발생하였다.

User complaint keywords by type of air force weapon system

마지막으로 사용자불만의 분류와 사용자불만 키워드 간의 2-mode 네트워크를 도출하여 공동출현 빈도가 높은 키워드들을 바탕으로 Table 9과 같이 대상 및 품목 키워드/ 현상 및 결함 키워드로 구분하여 나타냈다. 사용자불만 중 가장 큰 비중을 차지한 하자의 대상 및 품목으로는 엔진, seal, tbg, mgb, pu 배터리, 발전기 등이 있었으며, 단품불량, 결함코드 시현, 균열, 누유, 노후화, 소음 등이 주요 현상 및 결함으로 도출되었다.

User complaint keywords by classification of user complaints

이원 속성 네트워크 분석을 실시하여 항공무기체계의 중분류, 품류 그리고 사용자불만의 분류별 사용자불만 발생 대상 및 품목, 현상 및 결함을 도출하였다. 이는 향후 품질보증 업무 처리 시 특정 항목 및 유형에 대하여 중점적으로 관리해야 할 주요 품목과 그 품목에서 발생할 수 있는 결함을 이해하는데 참고 자료로 활용 가능할 것이다.

5. 결 론

연구에서는 2020년에 처리된 항공무기체계의 사용자불만 데이터를 분석하여 항공무기체계의 사용자불만 발생 현황을 파악하였다. KeyBERT를 활용하여 사용자불만 키워드를 추출하였으며, 추출된 키워드를 바탕으로 네트워크 분석을 실시하여 사용자불만 키워드 간 관계를 분석하였다. 또한 이원화 속성 네트워크 분석을 통하여 항공무기체계의 중분류 및 품류, 사용자불만의 분류별 사용자불만 발생 대상 및 품목과 현상 및 결함 키워드를 도출하였다.

2020년 항공무기체계의 사용자불만은 회전익항공기 391건, 무인항공기 57건, 고정익항공기 15건 그리고 항공전투지원장비 9건으로 총 472건 발생되었으며, 대부분 하자에 의하여 발생하였다. KeyBERT를 활용하여 사용자불만 건별로 5개의 핵심 키워드를 추출한 결과, 총 859개의 키워드가 도출되었고, ‘단품불량’, ‘결함코드’의 발생빈도가 높은 것으로 나타났다. 중심성 분석을 통해 ‘결함코드’와 ‘단품불량’이 사용자불만의 주요 원인으로 네트워크 내에서 중요한 위치를 차지하고 있음을 확인하였으며, 이들의 체계적인 관리가 사용자의 만족도를 높이는 핵심 요소가 될 것이다. 응집구조 분석 결과 사용자불만의 대상 및 품목, 다양한 결함과 원인들이 그룹화되었으며, 상위 7개 그룹에 대하여 대상 및 품목별 다양한 결함과 원인을 시각적으로 파악할 수 있었다. 마지막으로 이원 속성 네트워크 분석을 통하여 다양한 분류별 주요 사용자불만 발생 대상 및 품목과 현상 및 결함 키워드를 확인하였다.

본 연구는 몇 가지 의의를 가지고 있다. 첫째, 그동안 사용자 불만 처리 후 활용되지 않고 축적된 데이터를 체계적으로 분석하여 의미 있는 정보를 추출하고, 축적된 정보를 활용하는 방안을 마련한 것에 의의가 있다. 둘째, 사용자불만 텍스트 데이터를 네트워크 분석을 통해 사용자불만 키워드의 중요성을 수치화하고, 키워드 간의 관계를 시각적으로 표현하였다. 또한 정성적 분석으로는 확인할 수 없는 숨겨진 패턴이나 키워드 간의 연관성을 발견한 것에 의미가 있다. 셋째, 연구 결과는 향후 품질보증 활동 및 사용자불만 처리 시 중요한 참고자료로 활용될 수 있을 것이다. 연구 결과를 바탕으로 자주 발생하는 문제 유형을 예측하고 예방 활동을 강화할 수 있으며, 품질 관리 가이드라인과 교육 프로그램에 반영함으로써 실질적인 품질 개선에 기여할 수 있다. 또한 운영부대에서 정비 단계를 설정할 때 유용하게 활용할 수 있으며, 동시조달수리부속(CSP) 설정 시에도 중요한 지침으로 사용될 수 있다.

본 연구는 위와 같은 의의가 존재하나 다음과 같은 한계점을 지닌다. 첫째, KeyBERT는 텍스트에서 핵심 키워드를 추출하는 데 유용하지만, 특정 맥락이나 주제에 따라 중요한 키워드가 달라질 수 있다. 이에 추출된 키워드가 실제 사용자불만의 핵심을 충분히 반영하지 못했을 가능성이 있으며, 해당 문제를 보완하기 위해서 향후에는 국방 분야에 맞게 훈련된 언어 모델을 활용하여 키워드 추출의 정확성을 높일 필요가 있다. 둘째, 본 연구에서는 2020년 데이터만을 활용하여 분석을 진행하였는데, 향후 시계열적 동향 분석을 통해 사용자불만 현황을 보다 정확하게 파악할 필요가 있다.

후 기

이 연구는 2023년도 경상국립대학교 발전기금재단 재원으로 수행되었음.

Appendix

부 록

Abbreviation

References

[1]. . Choi C.. Application Case Study of R&D Quality Assurance for Defence Products. The Korean Society for Quality Management Fall Conference 164–173. September, 2018.
[2]. . Defense Agency for Technology and Quality(DTaQ). Military Supplies Quality Management Basic Regulation. Revised on October 16 2015.
[3]. . Shin B., Hwang W., Ahn N., Kim D., Lee G., Jang B., Byun J.. Suggestions on Enhancing the Effectiveness of Government Quality Assurance Activities for Military Supplies in Production Stage. Journal of Korean Society for Quality Management 44(1):153–166. 2016;
[4]. . Choi J., Wu S., Choi G., Lee J.. The Strength and Weakness in Korea Defense Supplies. Defense Agency for Technology and Quality 2012.
[5]. . Ahn N., Park S., Chae J., Lee Y., Oh B.. Suggestion of Using Defense Quality Score based on Taguchi Loss Function in Korea Defense Area. Journal of Korean Society for Quality Management 41(3):443–456. 2013;
[6]. . Jeon S., Lee D., Bae M.. A Study on the Application Method of Munition's Quality Information based on Big Data. Journal of the Korea Academia-Industrial cooperation Society 17(3):315–325. 2016;
[7]. . Defense Acquisition Program Administration(DAPA). Defense Acquisition Quality Management Regulation. Revised on December 28 2023.
[8]. . Defense Agency for Technology and Quality(DTaQ). Military Supplies Quality Management Basic Regulation. Revised on May 13 2024.
[9]. . Defense Agency for Technology and Quality(DTaQ). Defense Quality Management Work Regulations 2012.
[10]. . Kim J., Lee C.. Application of Zero-Inflated Poisson Distribution to Utilize Government Quality Assurance Activity Data. Journal of Korean Society for Quality Management 46(3):509–522. 2018;
[11]. . Lee D., Yoon K.. A Study on the Estimation of Shelf Life for Fuze MTSQ KM577A1 from ASRP Data. Journal of Applied Reliability 18(1):56–65. 2018;
[12]. . Eom W., Oh J., Yun J., Kim J.. A Study of Efficient Feedback Method for Weapon Systems Software Defection. Journal of the Korea Academia-Industrial cooperation Society 24(3):159–165. 2023;
[13]. . Huh H., Ko S., Baek S.. A Study on the Big Data Analysis and Predictive Models for Quality Issues in Defense C5ISR. Journal of Korean Society for Quality Management 51(4):551–571. 2023;
[14]. . Eom W., Kim J., Cho H., Chae S., Chang J.. The Analysis of Operating Weapon Systems Software Defections. Journal of the Korea Academia-Industrial cooperation Society 25(4):318–323. 2024;
[15]. . Oh H., Gwak S.. Suggestion for Enhancing Risk Assessment of Payload Equipment for the Quality Management Efficiency of Naval Weapon Systems. Journal of the Korea Academia-Industrial cooperation Society 25(2):148–153. 2024;
[16]. . Kang H., Yang J.. Study on the Methods of Keywords that Represent Political Bias in Ordinary Korean Sentences. Journal of Digital Contents Society 22(12):2077–2087. 2021;
[17]. . Gunnam G. R., Inupakutika D., Mundlamuri R., Kaghyan S., Akopian D.. Hybrid Machine Learning Approach for Task-Oriented Dialog Systems. International Journal of Computer Applications 186(23):35–42. 2024;
[18]. . Lee S.. A Content Analysis of Journal Articles Using the Language Network Analysis Methods. Journal of the Korean society for information management 31(4):49–68. 2014;
[19]. . Hwang S., Kim M.. An Analysis of Artificial Intelligence(A.I.)_related Studies’ Trends in Korea Focused on Topic Modeling and Semantic Network Analysis. Journal of Digital Contents Society 20(9):1847–1855. 2019;
[20]. . Freeman L. C.. Centrality in Social Networks Conceptual Clarification. Social Networks 1(3):215–239. 1978;
[21]. . Jang S., Yeum D.. Knowledge structure and research trend by period of hospice and palliative care research using text network analysis. Journal of the Korea Academia-Industrial cooperation Society 22(10):702–710. 2021;
[22]. . Choi I., Lee Y., Kim J.. A Usage Pattern Analysis of the Academic Database Using Social Network Analysis in K University Library. Journal of the Korean society for information management 27(1):25–40. 2010;
[23]. . Joo J., Song J.. Exploration of Knowledge Hiding Research Trends Using Keyword Network Analysis. Knowledge Management Research 22(1):217–242. 2021;

Article information Continued

Table 1.

Classification of user complaints[9]

구분 내용
하자 계약품질 요구조건과 일치하지 않는 계약업체(협력업체 포함) 잘못에 의한 제품의 결함사항
규격 및 기술자료 미흡 제품의 품질은 계약요구조건과는 일치하지만 관련 규격 및 기술자료가 미흡하여 소요군의 요구 운용품질을 충족시키지 못하는 사항
개선 요구 제품의 품질은 계약요구조건과는 일치하지만 품질향상이나 성능개량 등이 요구되는 사항
계약착오 계약내용 오기, 현품제시 잘못 등 계약부서의 업무착오로 발생된 불만사항
사용자 운용미흡 사용자의 사용법 미숙, 취급부주의, 정비 및 저장관리 소홀 등으로 인해 발생된 불만사항
통보착오 계약품질 요구조건과 일치하는 제품에 대해 사용자의 판단착오로 통보된 사항
책임소재 불분명 결함원인 분석 후 책임소재가 제조업체 또는 사용자의 잘못인지 판단이 곤란한 사항
결함원인 분석불가 현장(또는 사용자불만 제품) 보존 미흡, 불만 현상 재현 불가, 조사 불가한 사항
기타 결함 원인분석이 불가하거나, 책임소재가 불분명하여 판단이 곤란한 결함사항

Table 2.

Previous studies using quality assurance data

연구자 분석 데이터 연구 내용
Kim&Lee (2018)[10] 품질보증체계에 기록된시정조치현황 데이터 품질보증활동 중 수집된 시정조치현황 및 하자발생현황 데이터를 분석하여 QPI 제품품질 수준 평가 시 보다 정확한 평가를 위한 수학모델을 제안
Lee&Yoon (2018)[11] 저장탄약신뢰성평가를 통해 얻어진 로트단위 데이터 저장탄약신뢰성평가를 통해 얻어진 로트단위의 데이터로부터 품목의 저장수명추정에 필요한 로트선별기준을 제시
Eom et al.(2023)[12] SW 결함 데이터 운용단계의 무기체계에서 발생하는 SW 기술변경 내용을 분석하여 데이터베이스로 구축하고, 무기체계 및 부체계 별 위험관리맵을 제안
Huh et al.(2023)[13] C5ISR 분야 사업의 2차 전지 품질 데이터 및 A/S 이력 데이터 2차 전지의 생산 전 순기에 걸친 품질 문제를 빅데이터 관점에서 분석하였으며, 품질 정보 시스템의 빅데이터 기반 구축 및 발전방안을 제시
Eom et al.(2024)[14] SW 결함 데이터 운용 중인 무기체계 SW 결함의 종합적 관리를 위한 데이터베이스 구축 및 SW 기술변경 현황 분석
Oh&Gwak (2024)[15] 품질보증 활동을 통해 수집된 시정조치, 사용자불만 데이터 함정 무기체계의 품질관리 효율성을 높이기 위한 함정 표준위험도 개선방안을 제시

Fig. 1.

KeyBERT workflow[17]

Fig. 2.

Research process

Table 3.

Current status of user complaints in air force weapon system

구분 회전익항공기 무인항공기 고정익항공기 항공전투지원장비 합계
하자 387 45 10 1 443
규격 및 기술자료 미흡 - 4 - - 4
개선 요구 1 3 2 5 11
계약착오 - - - - 0
사용자 운용미흡 - - - - 0
통보착오 2 2 - 1 5
책임소재 불분명 - 1 - - 1
결함원인 분석불가 - 2 2 - 4
기타 1 - 1 2 4
합계 391 57 15 9 472

Table 4.

Frequency of top 30 keywords

순위 키워드 빈도 순위 키워드 빈도
1 단품불량 108 16 mr 18
2 결함코드 67 17 누유 17
3 손상 54 18 기술검토 17
4 시현 46 19 내부 16
5 결함 39 20 tgb 15
6 fail 35 21 mgb 14
7 불량 33 22 댐퍼 14
8 균열 26 23 회로카드 13
9 엔진 26 24 케이블 12
10 seal 25 25 마모 11
11 해외 23 26 idmc 11
12 제작사 22 27 입력축 11
13 운용간 20 28 emb 11
14 작동불량 19 29 mwr 11
15 점검 18 30 com 11

Table 5.

Top 15 keywords by centrality index

순위 키워드 연결중심성 키워드 근접중심성 키워드 매개중심성 키워드 위세중심성
1 결함코드 0.2319 단품불량 0.4792 단품불량 0.6250 단품불량 0.4760
2 단품불량 0.2319 결함코드 0.4259 손상 0.4235 결함코드 0.4400
3 손상 0.1739 손상 0.4157 결함코드 0.4016 시현 0.4077
4 mr 0.1449 시현 0.3920 mr 0.1995 seal 0.3320
5 시현 0.1304 엔진 0.3920 해외 0.1381 tgb 0.2816
6 엔진 0.1159 찢어짐 0.3594 엔진 0.1309 누유 0.2766
7 댐퍼 0.1014 seal 0.3382 시현 0.1198 입력축 0.2297
8 seal 0.0870 작동불량 0.3382 mgb 0.0708 mwr 0.1373
9 해외 0.0870 mgb 0.3366 댐퍼 0.0631 불량 0.1356
10 결함 0.0870 tgb 0.3317 fail 0.0577 mgb 0.0851
11 mgb 0.0725 누유 0.3317 작동불량 0.0514 제작사 0.0843
12 pu 0.0725 입력축 0.3317 결함 0.0506 com 0.0763
13 접착분리 0.0725 결함 0.3270 회로카드 0.0312 손상 0.0761
14 fail 0.0725 제작사 0.3255 충돌방지등 0.0296 emb 0.0653
15 tgb 0.0580 드레인 0.3255 pu 0.0283 hums 0.0549

Table 6.

Community group

그룹 키워드
결함코드 (16) 결함코드, 시현, mwr, fail, cpm, hmd, emb, hums, fqms 등
단품불량 (14) seal, 단품불량, tgb, 누유, 드레인, 공기, mgb, 주의등, 엔진방화벽 등
손상 (13) 손상, 엔진, run, 미흡, 운용간, 팽창시일, 케이블, 찢어짐 등
mr 댐퍼 결함 (12) mr, 댐퍼, 운용환경, pu, 접착분리, 노후화, 와셔, 댐퍼피팅, 비행 등
해외 구매품 결함 (6) 균열, fan, 해외, 구매품, 기술검토, idmc
충돌방지등 결함 (5) 충돌방지등, 작동불량, 내부, 수분유입, mc
회로카드 결함 (4) 결함, 컴퓨터, 회로카드, mps

Fig. 3.

Result of cohesion analysis

Table 7.

User complaint keywords by subcategory of air force weapon system

항공무기체계 중분류 대상 및 품목 키워드 현상 및 결함 키워드
회전익항공기 엔진, tgb, mgb, idmc, 댐퍼, seal, 회로카드, 충돌방지등 등 단품불량, 결함코드, 시현, 손상, 결함, emb, fail, 불량, 균열, 누유, 마모, 접착분리 등
무인항공기 케이블, 통합대기자료센서, 비행체점검장비, 엔진 등 손상, 결함, 소음, 불량, 결함코드, 시현, 접촉불량, 균열, ibit 등
고정익항공기 커넥터, 배터리, 시동발전기, 자동증속장치, 항공기견인차, lcd, 지상이동장치 등 불량, 장기사용, 압력, 충전, 결함, 과전압, 추력손실 등
항공전투지원장비 디지털데이터, 항공기급유차, fmu, 안정화구동장치, mfd, 엔진, psu 등 손상, fail, 가스누출, 탄성미흡, pbit, 결함, pip, chip, 미확보 등

Table 8.

User complaint keywords by type of air force weapon system

항공무기체계 품류 대상 및 품목 키워드 현상 및 결함 키워드
항공기 엔진, seal, mgb 등 단품불량, 결함코드, 균열, 누유, 마모, 이물질, 노후화 등
일반장비 안정화구동장치, 탱크하부, joint 등 가스누출, fail, 탄성미흡, pbit, 손상 등
항공기타 시동발전기, 디지털데이터, mfd 등 장기사용, fail 등
전자장비 자동증속장치, fmu, 엔진 등 차단, 에어컨냉매, 압력, 결함, 충전 등
장륜차량 디지털데이터, mfd, 기동헬기, 정비지원장비 등 손상, fail, chip, pip 등
소화기 및 화포 mfd hums 등
유도무기 체계, electronics 등 rollover, update 등

Table 9.

User complaint keywords by classification of user complaints

사용자불만 분류 대상 및 품목 키워드 현상 및 결함 키워드
하자 엔진, seal, tgb, mgb, 회로카드, pu, 배터리, 발전기, 승객실문 등 단품불량, 결함코드, 손상, 불량, 결함, 균열, 작동불량, 누유, 접착분리, 이물질, 노후화, 찢어짐, 소음 등
규격 및 기술 자료 미흡 케이블, 지상통신장치, cpm,지상중계정비, 비행체점검장비 등 경고, 접촉불량, bit, hmd 등
개량요구 항공기, 디지털데이터, mfd, 탱크, psu, 안정화구동장치, 기관총, cpm 등 손상, fail, 탄성미흡, pbit 등
계약착오 - -
사용자운용미흡 - -
통보착오 엔진, fum, 영상감지기, 모터, 엔진조립체, 잠금너트, 등 손상, 결함, fqms, 결함코드, 이탈, 체결력, 저하 등
책임소재 불분명 엔진마운트 점검, 불가능, 교육, 교환 등
결함원인분석불가 자동증속장치, 항공기견인차, 보드, 타이어, rf 등 차단, mwr, 결함코드, 불량, 원격폭파 등
기타 커넥터, 항공기급유차, 탱크하부 등 가스누출, 에어컨냉매, 압력, 충전, 손상, 결함 등

Table A1.

Abbreviation

약어 영문명칭 한글명칭
COM Communication 통신
CPM Computer Program Module 컴퓨터 프로그램 모듈
DTC Data Transfer Cartridge 자료전송카트리지
EMB Electrical Master Box 전원분배제어장치
FMU Fuel Metering Unit 연료계량장치
FQMS Fuel Quantity Measurement System 연료량측정시스템
HMD Helmet-Mounted Display 헬멧 장착형 디스플레이
HUMS Health and Monitoring Management System 상태감시시스템
IDMC Integrated Digital Map Computer 통합전자지도컴퓨터
LCD Liquid Crystal Display 액정시현기
MC Mission Computer 임무컴퓨터
MFD Multi Function Display 다기능시현기
MGB Main Gear Box 주기어박스
MP Microprocessor 마이크로프로세서
MPS Mission Planning System 임무계획시스템
MR Magneto-Rheological Fluid 자기유변유체
MWR Missile Warning Receiver 미사일경보장치
PBIT Power up Built In Test 전원인가자체진단시험
PIP Picture In Picture 화면 속 화면
PSU Power Supply Unit 전원공급장치
PU Polyurethane 폴리우레탄
TGB Tail Gear Box 테일기어박스