부분은 많은 기업들이 AI 도입을 서두르면서 AI 보안이나 거버넌스를 놓치고 있는 것으로 나타났다.


IBM이 발표한 ‘2025 데이터 유출 비용 연구 보고서’에 따르면, AI 도입이 급속히 확산되는 가운데 보안과 거버넌스는 이를 따라가지 못하고 있는 것으로 드러났다.

전 세계 600개 조직을 대상으로 조사한 결과, 전체의 13%가 AI 모델 또는 애플리케이션을 통해 데이터 유출을 경험했으며, 이 중 97%는 AI 접근 제어가 제대로 마련되어 있지 않았던 것으로 드러났다.

보고서는 AI 시스템 침해 사고의 60%가 데이터 유출로, 31%는 운영 중단으로 이어졌다고 분석했다.

특히 AI 보안 정책이 부재하거나 미비한 조직이 많았으며, AI 거버넌스 정책을 보유한 조직 중에서도 비승인 AI를 정기적으로 감사하는 곳은 34%에 불과했다.

또한 섀도 AI(Shadow AI)로 인한 유출 피해도 심각했다.

전체 조직 중 20%가 섀도 AI로 인해 유출을 경험했으며, 이들 조직은 평균 67만달러 더 높은 유출 비용을 기록했다.

섀도 AI 관련 사고에서는 개인 식별 정보(65%)와 지적 재산(40%) 유출 비율이 일반적인 사고보다 높았다.

AI를 활용한 공격도 증가 추세다. 전체 시스템 침해 사례 중 16%는 공격자가 AI 도구를 활용한 것으로 나타났으며, 주로 피싱과 딥페이크 사칭에 사용되었다.

금융적 측면에서도 유출 사고는 막대한 비용을 초래했다. 2025년 전 세계 평균 유출 비용은 444만달러로, 5년 만에 처음으로 감소했지만 여전히 높은 수준이다.

특히 의료 분야는 평균 742만 달러로 가장 높은 유출 비용을 기록했으며, 탐지 및 대응에 평균 279일이 소요됐다.

보안 투자 의지도 감소했다. 유출 사고 이후 보안에 투자할 계획이 있다고 답한 조직은 2024년 63%에서 2025년 49%로 감소했으며, AI 기반 보안 솔루션에 집중하려는 조직은 절반 이하에 그쳤다.

IBM 수자 비스웨산 부사장은 “AI가 비즈니스 전반에 깊숙이 자리 잡은 만큼, AI 보안은 선택이 아닌 필수”라며 “보안 부재는 단순한 재정 손실을 넘어 신뢰와 통제력의 상실로 이어진다”고 경고했다.