SKT가 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 23일 발표했다. SKT는 기업 및 공공기관 등의 요구에 맞춰 △에이닷 LLM △엔트로픽의 LLM △코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.
▲SKT 수퍼컴퓨터 타이탄
에이닷·엔트로픽·코난 멀티 LLM 전략 발표
정부부처·제조사 다양한 산업별 고객 발굴
SKT가 기업을 대상으로 생성형 AI 시장을 넓힌다.
SKT가 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 23일 발표했다. SKT는 기업 및 공공기관 등의 요구에 맞춰 △에이닷 LLM △엔트로픽의 LLM △코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.
SKT는 “자체 LLM과 더불어 타사의 LLM까지 포함한 라인업으로 ‘멀티 LLM’ 사업 추진 계획을 밝힌 것”에서 의의가 있다고 전했다.
한국어 기반의 SKT 에이닷 LLM은 8월부터 엔터프라이즈용 기본모델을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행하고 있다.
SKT는 코난의 LLM을 활용할 계획이다. 또한 지난 13일 지분 투자를 발표한 엔트로픽(Anthropic)의 경우, SKT의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이다. 기능 통합 작업이 완료되는 4Q부터 실제 서비스 제공이 가능할 것으로 기대된다.
SKT는 “하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 ‘Full Stack 서비스(Approach)’가 가능할 것”이라 전했다. 특히 SKT가 설립한 AI반도체 전문기업 ‘사피온’의 신제품인 X330등의 신기술을 활용하고, 수퍼컴퓨터 타이탄을 기반으로 한다.
SKT가 제공하고자 하는 기업공공 분야 LLM 서비스는 ‘산업별 특화 LLM 서비스’ 제공을 지향하고 있다. SKT는 한국어 기반의 구축형 LLM 시장에서 에이닷 LLM을 중심으로, 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략한다.
한편 SKT는 실제 구축 및 운용 경험이 풍부한 사업자들과의 협력을 위해 페르소나AI와 AICC 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축하겠다고 밝힌 바 있다.
SKT는 “LLM 서비스의 수요가 먼저 나타나고 있는 분야는 정부 부처, 공기업, 금융기업 등”이며, “아직 초기 단계이기는 하나 국내 대형 제조사 등을 중심으로 제조업 AI 수요도 생기고 있다”고 전했다.
SKT는 우선 행안부, 과기부 등 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이며, 금융권을 중심으로 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진중에 있다. SK하이닉스 등 그룹 내 계열사와도 LLM AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다.
SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항(Needs)으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.