글로벌 AI 기술 패권 경쟁이 심화되는 가운데, 차세대 핵심 역량으로써 챗GPT와 같은 초거대 AI 기술에 대한 사이버 보안 측면의 고민과 대응이 요구된다.
 
3일 국회의원회관에서 개최된 제21회 '해킹보안세미나'에서 김석중 KT 차장은 ‘챗GPT의 기회와 위협’을 주제로 발표에서 사이버 보안에서 챗GPT가 어떤 기회와 위협이 있는지 다뤘다.
 
김 차장은 “기존 AI와 차별점을 갖는 챗GPT는 긍정적 효과와 동시에 부정적 영향을 초래할 수 있다”며, “챗GPT의 보안 위협을 사전 제거하고, 사이버 보안을 향상할 수 있는 도구로 활용해야 한다”고 주장했다.
 
올 초에 벌써 사용자 1억 명을 넘은 챗GPT 열풍이 전 세계를 덮친 이후, MS, 구글, 메타 등 글로벌 빅테크 기업들은 수많은 GPU를 투입하며 더욱 정교화 된 대형 언어 모델을 만드는 데 주력하고 있다.
 
인간과 자연스럽게 소통할 수 있는 챗GPT는 챗봇 서비스의 일종으로, 과거의 언어 모델이 통계적 기법으로 많이 활용된 것과 달리 GPT는 인공 신경망 기반의 모델로 변화됐다.
 
그러나 다양한 분야에서 활용되고 있는 챗GPT는 사이버 보안 측면에서, AI를 적극 활용하여 보안을 강화할 수 있다는 긍정적인 면과 악성 코드 생성 프로그램 언어로 보안 업계에 위협이 될 수 있다는 부정적인 면을 동시에 가지고 있다.
 
AI는 가상 현실에서 가장 유용하게 활용 가능하다. 가상 환경을 구성하기 위해 챗GPT는 OS 네트워크 상의 연결 부분을 시뮬레이션으로 만들 수 있다. 또한 디지털 포렌식에서 요구 분석 등의 작업 수행을 위해 프로그램 언어 접근을 쉽게 할 수 있다. 악성 코드 분석, 주석 작업, 코드 취약점 분석 등 코딩 작업에 능통하다.
 
반면 챗GPT의 위협도 동시에 존재한다. 챗GPT는 윤리적으로 어긋난 부분에 대해 답변하지 않지만, 이를 풀어내는 방법이 고안되고 있다. 또한 해킹 코드의 발설, 회사의 결제 정보 등 민감한 데이터가 유출 등 사용자의 개인 정보는 피싱 사기로 이어질 수 있다.
 
챗GPT 관련 확장 프로그램 다운로드 시 신용카드, 금융 정보를 탈취하는 형태의 보안 위협 사례도 증가했다. 김 차장은 “챗GPT 이후 광고 분야 채택 등의 분위기와 맞물려 신규 사회공학적 공격이 135% 증가했다”고 덧붙였다.
 
김 차장은 최근 AI 기술 발전으로 노동비용의 저하는 개발 속도를 향상시켜 당분간 전 세계적인 생성 AI 트렌드가 지속될 것으로 전망하며, 챗GPT가 디지털 전환을 겪고 있는 산업 전반의 보안 향상에 도움이 되도록 악용 사례를 타파하는 법 제도 마련 등의 대응책이 필요하다고 전했다.

■ 메타, 페이스북에 비즈니스 계정 추가

외신에 따르면 Meta(메타)는 최근 보고서에서 챗GPT 및 유사한 AI 소프트웨어로 위장한 맬웨어가 급격히 증가했다고 밝혔다. 이는 챗GPT 도구로 위장한 모바일 앱 등을 다운로드 시 사용자의 계정 자격 증명을 도용하는 수법이다. 특히 메타는 페이스북에서 비즈니스 관리자 및 플랫폼 사용자 개인 계정을 노리는 사례가 늘었다고 말했다.

메타는 이에 맞서기 위해 'Meta Work'라는 새로운 유형의 비즈니스 계정을 향후 도입할 계획이다. 이를 통해 사용자는 개인 페이스북 계정 없이 페이스북 비즈니스 관리자 도구에 액세스 할 수 있다.

또한 메타는 기업이 맬웨어를 예방하는 도구를 출시하고 있다. 타사 바이러스 백신 도구 사용을 포함해 맬웨어를 식별 및 제거하는 방법을 단계별로 안내한다.
 
■ KT·LG CNS, AI 기반 보안 사업 가속화 KT는 지난 11일 AI 기반으로 사용자의 이메일을 분석하고, 취약점을 파고 드는 신종 APT 해킹 공격을 방어하는 ‘AI 지능형지속위협(APT) 분석 기술’ 솔루션을 상용화했다.
 
KT의 AI 분석 플랫폼을 통해 분석한 연간 2억 건 이상의 이메일 데이터에 기반을 두고 있고, DB를 국내 환경에 맞게 최적화했다. 이에 따라 해외 보안 회사보다 탐지 정확도가 최대 22% 높고, 기존 동적분석 방식보다 악성코드 탐지 속도가 최대 180배 빠르다.
 
KT는 “APT 공격을 효과적으로 방어할 수 있도록 하루 평균 10여 건의 신종 혹은 변종 APT 공격에 대한 위협 DB를 만들어 이메일 보안 솔루션에 꾸준히 업데이트 하고 있다”고 전했다.
 
LG CNS는 MS(마이크로소프트)와 함께 보안 사업을 가속화한다. MS와의 협력을 바탕으로 △생성 AI 보안 아키텍처2) 설계 △고객 맞춤형 탐지대응 플랫폼 개발 △클라우드 보안사업 강화 등을 추진한다.
 
특히 MS 애저 오픈AI 서비스(Azure OpenAI Service)3)를 기반으로 챗GPT 등 생성 AI를 위한 보안 아키텍처를 설계 및 구축한다.
 
LG CNS는 생성 AI를 활용하고 싶지만, 데이터 유출 등으로 주저하는 기업들의 해결사로 나선다. 고객의 비즈니스 환경과 IT시스템을 분석해 보안이 필요한 요소들을 정의하고, 아키텍처를 설계, 구축해 맞춤형 보안 환경을 제시한다. 이를 통해 고객은 생성 AI로 필요한 정보를 얻으며 개인 정보 유출을 방지할 수 있다.