생성형 AI 및 비대면 서비스가 사용자·소비자들에게 보편화되고 있는 가운데 새로운 보안 이슈가 대두되고 있다. AI 기술을 활용해 민감정보·개인정보를 보호하는 보안 솔루션들이 금융·기업 담당자들의 주요 관심사로 떠올랐다.

컴트루테크놀로지(이하 컴트루테크) 19일 한국과학기술회관에서 '생성형 AI 데이터 보안&비대면 본인확인 컨퍼런스'를 개최했다. 이날 컨퍼런스에서는 변화하는 AI 환경에 대응하는 새로운 보안 솔루션들이 소개됐다.

최근 생성형 AI는 박사급 인재 수준으로 사용자 의도 파악 및 추론 능력이 발전했으며, 이에 사용자들은 업무·일상에서의 생성형 AI 활용이 증가했다. 이러한 과정에서 의식적·무의식적인 민감정보, 개인정보 유출이 이뤄지고 있다.

예컨대, 외국 바이어와의 메일, 첨부파일 등을 번역하는 과정에서 생성형 AI를 통할 때 민감정보가 상용 LLM에 재학습될 우려가 있으며, HR팀의 이력서 평가 및 분석, 보도자료 작성 과정에서의 회사 매출 및 공시 정보의 유출 등이 LLM 보안 우려 사항으로 언급됐다.

기업들의 민감정보 유출, 기업 기밀 재학습 우려가 업계 요구로 가시화되는 상황에서 컴트루테크는 데이터 보안을 위한 △프롬프트 필터링 △개인정보 마스킹 △AI 데이터 입력 감사체계 마련 등을 제공할 수 있는 솔루션을 개발했다.

컴트루테크가 개발한 ‘스핑크스 AI(Sphinx AI)’는 챗GPT, 클로드 등 외부 생성형 AI를 비롯해 기업이 자체 구축한 프라이빗 LLM과의 연동할 수 있다. 이때 민감 정보 유출 방지, 생성형 AI 가시성 확보 등을 통해 생성형 AI에서의 데이터 보안을 제공한다. 

상용 및 프라이빗 LLM이 연동된 스핑크스 AI 플랫폼 상에서 사용자들은 자신이 입력하는 프롬프트 및 첨부파일 내 개인정보를 실시간으로 필터링해 프롬프트 차단과 가명 처리, 기밀 키워드 필터링 등의 정책으로 관리되며, 이를 통해 민감정보 유출을 방지할 수 있는 것이다. 

더불어, 생성형 AI 토큰 관리 및 이슈데이터 로그 제공 기능으로 생성형 AI의 보다 생산적 활용 관리를 지원한다.

한편, 컴트루테크놀로지는 "20년 이상 정보보호 제품을 공급하며 개인정보유출 방지 및 데이터 보호 등의 솔루션에 집중한 정보보호 솔루션 기업"이라며, "최근 생성형 AI 및 비대면 서비스 환경에 대응하는 AI 보안 기술 개발에 주력하고 있다"고 전했다.