인공지능(AI)을 악용한 비군사적 안보 위협 대응방안에 관한 연구

초록

인공지능(AI) 기술은 사회의 지속적인 발전과 신산업 분야 경쟁우위 확보를 위한 핵심 전략기술로 주목받고 있지만, 그 기반이 되는 학습 데이터의 유한성·부정확성 등으로 인해 국가안보(비군사적 분야) 측면에서 다양한 위협이 될 수 있다. 예를 들면, 딥페이크 기술이 적용된 정교한 가짜 영상이 평·전시를 막론하고 국가 혼란을 가져올 수 있으며, ChatGPT와 같은 생성형 AI가 정서적으로 취약한 사람에게 잘못된 정보를 지속적으로 주입시켜 그 가치 판단에 영향을 끼칠 수도 있다. 또한, AI 기술로 만들어진 가짜 뉴스가 민주주의의 꽃인 선거 조작에 활용되고, 기존 방식으로 탐지하기 어려운 악성코드 제작 등 사이버 공격에 악용되고 있다. 이러한 국가안보 침해 가능성을 방지하기 위해 EU는 AI의 위험성을 4등급으로 구분하는 세계 최초의 AI 규제법을 마련하였고, 미국은 안보에 위협이 될 수 있는 AI 시스템을 개발하는 경우에 연방정부 고지를 의무화하는 한편, 중국은 생성형 AI 서비스에 사회주의 핵심가치를 반영하도록 명시하였다. 이에, 우리나라도 ‘인공지능 기본법’ 제정 과정에서 AI로 인한 국가안보 침해 사례를 명시하고, 인증제 도입 등을 통해 자유민주주의 핵심 가치를 훼손하지 못하도록 규제하여야 한다. 또한, AI를 악용한 사이버 심리전에 맞대응하기 위한 민관 협력체계를 구축하고, 국가안보 유관기관이 딥페이크 진위 판별을 위한 시스템을 개발·공유할 필요가 있다.

키워드