지코어가 기업이 직면한 대규모 불법 콘텐츠를 실시간 관리할 수 있는 솔루션을 공개했다.
 
지코어(Gcore)는 5일 오디오, 텍스트 및 사용자 제작 동영상 콘텐츠를 실시간으로 탐지하고 관리할 수 있도록 돕는 ‘지코어 AI 콘텐츠 모더레이션(Gcore AI Content Moderation) 솔루션’을 출시했다.
 
해당 솔루션을 활용하면 온라인 서비스 제공업체는 AI/ML을 직접 적용하지 않아도 부적절한 콘텐츠에 대한 제재를 자동화할 수 있다. 또한 지코어는 “사용자 안전을 개선하고 EU의 디지털 서비스법이나 영국의 온라인 안전법안 등과 같은 국가별 규정을 준수할 수 있다”고 설명했다.
 
어린이가 접근할 수 있는 콘텐츠를 호스팅하는 모든 온라인 플랫폼은 사용자가 생성하는 콘텐츠를 모더레이션(탐지·관리)해 폭력적·불법적인 콘텐츠로부터 시청자를 보호하는 방안을 마련할 의무가 부여되고 있다.
 
지코어의 ‘AI 콘텐츠 모더레이션 솔루션’은 수많은 데이터 중 유해한 콘텐츠를 필터링 해준다.
 
우선 동영상 콘텐츠 스트림의 검토를 자동화해 부적절한 콘텐츠를 표시한다. 필요한 경우 사람 모더레이터에게 경고를 보낸다. 동영상 또는 라이브 스트림이 게시된 후 몇 초 내로 검토를 시작한다.
 
지코어는 ‘AI 콘텐츠 모더레이션 솔루션’은 △최첨단의 컴퓨터 시각(Vision) 모델을 사용해 객체를 감지하고 세분화 및 분류 △광학 문자 인식(Optical Character Recognition, OCR) 기능으로 동영상에 표시되는 텍스트를 기계가 읽을 수 있는 형식으로 변환 △음성인식 알고리즘이 욕설 감지 △다중 모델 출력 집계 등의 기능을 탑재했다.
 
이외에 지코어 AI 콘텐츠 모더레이션 솔루션을 API를 통해 기업이 보유한 기존 인프라에 통합할 수 있다. 지코어는 “총 200Tbps 이상의 네트워크 용량을 갖춘 180개 이상의 지코어 글로벌 엣지 네트워크에서 실행함으로써 고객에게 짧은 지연시간, 속도 및 회복 탄력성을 보장해 준다”고 덧붙였다.
 
지코어의 동영상 스트리밍 책임자인 알렉세이 페트로브스키(Alexey Petrovskikh)는 “엄청난 양의 콘텐츠를 모더레이션하기 위해 충분한 인력을 배치하고 비용을 통제하는 것은 불가능에 가깝다”며 “이번에 선보인 지코어 AI 콘텐츠 모더레이션 솔루션은 기업이 글로벌 규모로 콘텐츠를 탐지 및 관리할 수 있는 권한과 역량을 부여하는 동시에 사람이 플래그로 지정된 콘텐츠를 검토할 수 있도록 해준다. 이러한 강점은 기업이 규정을 준수하면서 사용자, 커뮤니티, 더 나아가 기업 평판을 보호하는 데 필수적인 역할을 한다”고 말했다.