IBM은 왓슨x.ai(watsonx.ai)에서 미스트랄 라지(Mistral Large) 모델을 제공한다고 발표했다. 이로써 기업은 고품질, 고성능의 다양한 파운데이션 모델을 활용해 맞춤형 배포가 가능해진다.
다양한 파운데이션 모델 맞춤형 배포
추론·다국어·검색증강생성↑…SaaS 제공
IBM은 왓슨x.ai(watsonx.ai)에서 미스트랄 라지(Mistral Large) 모델을 제공한다고 발표했다. 이로써 기업은 고품질, 고성능의 다양한 파운데이션 모델을 활용해 맞춤형 배포가 가능해진다.
왓슨x.ai는 AI 개발자를 위한 IBM의 기업용 AI 스튜디오다. IBM의 그래니트(Granite) 모델 외에도 다양한 오픈 소스 및 상용 모델 선택이 가능하다. 이를 용도에 따라 변형하거나 비즈니스 솔루션 및 애플리케이션과 통합해 사용할 수 있다.
IBM은 이미 왓슨x.ai 내에서 기업 환경에 적용할 수 있는 소규모 모델인 ‘Mixtral-8x7B’를 제공해왔다. 이 모델은 주어진 시간 동안 처리할 수 있는 데이터의 양이 기존 모델보다 50% 많다.
이번에 새롭게 추가된 미스트랄 라지는 구독형 형태인 서비스형 소프트웨어(SaaS)로 제공된다. 미르트랄 라지 모델은 추론과 다국어 기능이 필요한 복잡한 전사적 작업을 처리하고, 검색증강생성(RAG) 성능이 향상된다. 이에 따라 장시간 채팅 상호작용과 대용량 문서 처리가 가능하다.
또한 사용자 정의 함수, API와 같은 외부 도구에 연결할 수 있다. 뛰어난 코딩 성능으로 특정 용도에 맞는 애플리케이션을 쉽게 구축할 수 있다. 책임감 있는 AI 구축을 위해 안전장치로 사용할 수 있는 ‘가드레일(guardrail)’ 기능이 내장돼 있다.
왓슨x 플랫폼에서 미스트랄 라지를 지원받는 고객은 데이터 스토어, 프롬프트 랩, 모델 튜닝, 프로세스 모니터링 및 거버넌스 기능을 포함한 추가적인 엔터프라이즈 지원 제품을 활용할 수 있다. 고객은 온프레미스나 퍼블릭 클라우드 제공업체 등 원하는 환경에서 왓슨x.ai 내 모델을 배포할 수 있다.
IBM은 왓슨 플랫폼에 미스트랄 AI의 상용 모델을 제공한다. IBM은 한도형 지적 재산권 보상 제도를 통해 미스트랄 라지에 대한 고객 보호를 제공한다. 이는 IBM이 자사의 AI 모델인 IBM 그래니트 모델에 대한 고객 보증 제도를 적용한 이래 제3자 파운데이션 모델까지 확대한 첫 번째 사례다.