“기업들이 AI를 비즈니스에 적용할 때 발생할 수 있는 위험성을 극복하기 위해 AI를 위한 데이터, AI 모델, AI 도입 및 확장 과정에서 신뢰성을 확보하는‘AI 거버넌스’가 도입 처음부터 고려돼야 한다”

 

한국IBM이 14일 여의도에서 개최한 'IBM 왓슨x.거버넌스' 출시 기자간담회에서 한국IBM 컨설팅 김현정 대표는 이같이 설명했다. IBM은 '왓슨x.거버넌스'가 기업의 AI 기반 비즈니스에서 안전하고 투명하게 규정과 정책을 준수할 수 있도록 지원한다고 밝혔다.

 

한국IBM에 따르면, 많은 기업들이 거대언어모델(LLM)을 비롯한 다양한 생성형 AI와 파운데이션 모델 개발을 검토하고 있지만 실제 ROI(투자수익률)는 2022년 기준 8.3%밖에 되지 않는다.

 

이와 동시에 AI의 위험요인으로 마치 AI가 거짓을 진실처럼 제시하는 '환각(Hallucination)' 등으로 기업들은 어려움을 겪고 있으며, 법적 측면에서 저작권 문제, 데이터 관련 보안, 개인정보 유출, 해킹, 규제 등이 문제되고 있다.

 

김현정 대표는 "기업이 성공적으로 AI를 비즈니스에 도입하려면 기술 자체 뿐만 아니라 활용하는 것에 대한 준비가 매우 중요하다"고 주장했다.

 

한국IBM은 이를 해결하는 방법으로 거버넌스를 제시한다. 이번 출시한 '왓슨x.거버넌스'는 지난 5월 공개한 AI 및 데이터 플랫폼인 '왓슨x' 플랫폼의 요소 중 하나다. IBM의 '왓슨x' 플랫폼은 기업에게 AI를 구축, 실행, 배포 기능을 제공하는 통합 플랫폼으로, △왓슨x.ai(watsonx.ai) △왓슨x.데이터(watsonx.data) △왓슨x.거버넌스(watsonx.governance) 로 구성된다.

 

'IBM 왓슨x.거버넌스'는 조직이 전사적으로 AI 위험 요소를 관리하고 AI 규정을 준수하는 데 필요한 솔루션을 제공하는 툴킷이다. 특히 왓슨x.거버넌스는 설명 가능성, 공정성, 견고성, 투명성, 개인정보 보호를 토대로 마련되어 기업이 AI를 도입할 때 가장 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다.

 

이지은 한국IBM 최고기술책임자(CTO) 전무는 "AI 거버넌스는 AI 가드레일(안전장치)이다. 기업이 AI를 잘 개발하고 안전하고 윤리적으로 활용할 수 있게 한다"고 말했다.

 

IBM의 이러한 전략은 글로벌 빅테크들이 치열하게 LLM 모델 개발에 집중하는 것과는 다른 전략이다. IBM은 처음부터 기업 관점에서의 비즈니스에 특화된 플랫폼을 제공하는 데 주목했다. 기업들은 AI를 비즈니스에 활용할 때는 다양한 모델이 필요하고, IBM은 특정 회사의 기술에 의존하지 않고 다양한 데이터 및 오픈소스를 활용할 수 있도록 '오픈소스 얼라이언스' 구축을 택했다는 설명이다.

 

IBM의 통합 플랫폼 '왓슨x'을 이용하는 기업들은 플랫폼 상에 오픈소스를 기반으로 자유롭게 활용해 주권을 확보하고, 기존의 것을 추가할 수도 있다. 왓슨x.거버넌스는 클라우드, 온프레미스 등의 모든 환경을 지원하고, 어떤 모델이든 편향성 감지, 오류 확인 등이 가능하다.

 

IBM 왓슨x.거버넌스는 △AI 생애주기 거버넌스 △AI 위험 요소 관리 △규제 준수 등 세 가지 부문에 대한 기술을 제공한다.

 

'AI 생애주기 거버넌스'는 기업이 데이터를 가져오는 것부터 프론트엔드 개발, 파인튜닝 등 AI를 활용하는 모든 과정에서부터 모든 생애주기를 관리해 모델을 모니터링, 분류 및 관리하고 자동화한다. 'AI 위험 요소 관리'는 최근 여러 오픈 소스상의 AI 모델을 사용할 수 있으면서도 플랫폼을 통해 통제할 수 있게끔 대시보드로 제공하는 것이다. LLM 뿐만 아니라 전통적 AI/ML 모두 포함한다.

 

예컨대 AI 위험요소를 관리하기 위해 제공되는 'AI 팩트시트(factsheet)'는 마치 식품에 붙는 영양성분표처럼 AI의 구성을 투명하게 표기함으로써 설명 가능한 AI를 구현해 환각 현상 등 위험을 사전에 감지 및 예방하게 한다.

 

이 전무는 "IBM은 AI 윤리 이사회(AI Ehtics Borad), IBM 정책 연구소 등 AI 거버넌스에 대한 오랜 관심을 가져온 노하우를 기반으로 AI 거버넌스 전문성을 가졌다"고 말했다.

 

현재 왓슨x.거버넌스는 한국을 포함한 전 세계에서 정식 버전을 사용할 수 있다. 한국 IBM은 "올해 왓슨x. 플랫폼을 기반으로 고객들과 전담 팀을 두고 실증하는 단계에 있다"고 말했다.

 

이 전무는 "2024년에는 생성형 AI가 다양한 데이터를 기반으로 LLM을 넘어 다양한 가치를 제공할 것으로 전망된다"며, "특히 IBM은 멀티 모달 AI에 대한 고민을 본격화 할 것"이라고 말했다