AI 기반 번역기 개발에는 상당한 시간과 비용이 따르기 때문에 뛰어난 성능의 프로세서를 도입해 AI 모델 학습속도를 가속화하는 전략이 유효성을 발휘하고 있다. 개발 기간 단축과 총소유비용 감소를 위한 최첨단 IPU 도입이 효과적인 솔루션으로 부상할 전망이다.
▲그래프코어 IPU시스템(사진제공-그래픽코어)
기존 GPU 대비 AI 모델 학습속도 10배 향상, 총소유비용(TCO) 대폭 절감
AI 기반 번역기 개발에는 상당한 시간과 비용이 따르기 때문에 뛰어난 성능의 프로세서를 도입해 AI 모델 학습속도를 가속화하는 전략이 유효성을 발휘하고 있다. 개발 기간 단축과 총소유비용 감소를 위한 최첨단 IPU 도입이 효과적인 솔루션으로 부상할 전망이다.
인공지능 반도체 기업 그래프코어(Graphcore)가 국내 딥러닝 기반 자연어처리(NLP) 스타트업인 트위그팜에서 서비스 혁신과 효율성 개선을 위해 IPU를 도입했다고 지난 13일 밝혔다.
트위그팜은 IPU도입을 통해 기존 GPU 대비 10배 가까이 향상된 성능을 구현했으며 연구 속도를 높이고 서비스 개발을 가속화하는 동시에, 총소유비용(TCO)은 대폭 낮추는 데 성공했다고 말했다.
트위그팜은 △기업용 AI 기반 맞춤형 번역기 △데이터 비식별화 처리기 △데이터 검수기 등을 제공하는 AI 스타트업으로 특히 맞춤형 번역기 개발에 집중하고 있다. 고객의 요구를 반영하고 시장 수요에 민첩하게 대응하기 위해 △데이터 수집 △데이터 전처리 △모델링 개선 등 일련의 과정을 지속적으로 반복하는 연구를 수행하고 있다.
그래프코어의 IPU를 도입함으로써, 기존에 사용하던 GPU 대비 학습속도는 10배 가까이 높이고 비용 또한 상당히 절감하는 성과를 달성했다고 트위그팜은 밝혔다. 많은 스타트업들이 직면해 있는 최대 과제는 비교적 한정된 자원을 충분히 효과적으로 활용해 서비스 품질은 향상시키면서 비용은 감소할 수 있는 방법을 찾는 것이다.
그래프코어 IPU를 통해 기존 시스템 대비 훨씬 적은 비용으로 더욱 빠른 학습 결과를 얻고 있다고 피력하며, 이는 연구 속도를 높여 서비스 출시 기간을 앞당기는 데 결정적인 역할을 하고 있다고 강조했다.
또한 트위그팜은 그래프코어 전문가 팀의 지원을 받아 기존에 사용하던 GPU 시스템에서 IPU로 신속하고 원활하게 마이그레이션 할 수 있었다고 밝혔다. 그래프코어가 제공하는 교육뿐 아니라 코드 변환, 최적화와 같은 기술적 지원으로 프레임워크를 이전하면서 발생하는 러닝커브를 최소화할 수 있었다고 덧붙였다.
강민우 그래프코어 코리아 지사장은 “그래프코어는 앞으로도 성장 잠재력을 가진 국내 AI 스타트업과 긴밀히 협력할 수 있는 방안을 적극 모색할 계획이다”라며 “이를 통해, 한국의 AI 생태계가 더욱 성장하고 발전하는 데 기여할 것”이라고 설명했다.
백선호 트위그팜 대표는 “그래프코어의 IPU 시스템은 우리가 오랫동안 고민해 온 비용과 시간문제를 해결해 준 획기적인 솔루션”이라며, “그래프코어와의 협업을 꾸준히 이어가 서비스를 개발하고 혁신하는 데 IPU 기술을 확대 적용해 나갈 예정”이라고 밝혔다.