SKT는 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있다. 이번에 NVIDIA A100 GPU 1040개로 증설했다.
▲SKT의 슈퍼컴퓨터 ‘타이탄’
에이닷 두뇌 역할 GPU, 1040대 구축
1초당 1경7100조번 연산 처리 성능
SK텔레콤의 초거대 AI 모델 ‘A.(에이닷)’이 더욱 똑똑해진다.
SK텔레콤이 자사의 초거대 AI모델 ‘에이닷’의 두뇌인 슈퍼컴퓨터 ‘타이탄’의 GPU를 기존 대비 2배로 확대 구축했다고 12일 밝혔다.
SKT는 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있다. 이번에 NVIDIA A100 GPU 1040개로 증설했다.
SKT는 초거대 AI를 구동하기 위해서는 수십억 개 이상의 매개변수를 다루는 방대한 양의 데이터를 빠르고 정확하게 처리할 수 있는 슈퍼컴퓨터 인프라의 중요성을 강조했다.
또한 타이탄은 17.1 페타플롭(Petaflop; 1초당 1천조번 연산 처리) 이상, 즉 1경 7100조 번의 성능을 지원한다. 1페타플롭은 1초에 1000조 번 부동소수점(컴퓨터의 실수인식법) 연산이 가능한 속도다.
이는 작년 전세계 슈퍼컴퓨터 랭킹 ‘Top 500 (top500.org)’에서 85위에 오른 바 있다. 국내 통신사 중에서는 최초다.
한편 SKT는 이번 GPU 확대를 통해 자사의 초거대 AI 모델 ‘에이닷’이 기존보다 더 정교한 학습이 가능해질 것이라 기대하고 있다.
초거대 AI ‘에이닷’을 구동하기 위해 상용 서비스에 수백억개 이상의 파라미터 모델이 적용되고 있다. 컴퓨팅 성능 확대에 비례해 현재보다 2배 이상 규모의 모델로 고도화 될 것이라는 설명이다.
또한 SKT는 초거대 AI 범용성을 확장한다. 현재 에이닷은 FLO, TMAP, 웨이브 등 국내 미디어 플랫폼과 연동되어 서비스를 제공중이다.
SKT A.추진단 김영준 담당은 “이번 슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해져 사람과의 대화 흐름과 답변 완성도가 사람 수준에 가깝도록 개선하는데 큰 역할을 할 것으로 기대된다”며 “앞으로도 공격적인 R&D 투자, 인프라 확대, 인재영입 등 통해 AI 기술 리더십을 선도하기 위해 지속 노력할 것”이라고 밝혔다.