[미디어펜=이해정 기자]SK텔레콤은 AI 서비스 처리 속도를 기존보다 약 5배 높이는 'AI 가속 솔루션(AIX, AI Inference Accelerator)'을 개발해 자사의 AI 서비스 '누구'에 적용했다고 21일 밝혔다. 

데이터센터 기반 AI 서비스에 해당 솔루션을 상용화한 기업은 SK텔레콤이 최초다. 

정무경 SK텔레콤 소프트웨어개발원 ML인프라랩 팀장은 이날 오전 서울 을지로 삼화빌딩에서 "솔루션을 이용해 더욱 고도화된 AI 서비스를 제공하는 시점에는 소비자가 좀 더 높은 퀄리티의 AI 서비스를 제공받을 것"이라고 말했다. 

정 팀장은 "연산 속도가 빨라진만큼, 더 많은 사용자가 하나의 인프라에서 AI 서비스를 요청했을 때 이를 감당할 수 있는 플랫폼이 생기는 것"이라며 "솔루션을 통해 사용자에 제공될 서비스는 여러 방법이 있을 수 있다. 5G 시대가 도래하면 더욱 체감할 수 있을 것"이라고 설명했다. 

그는 "하드웨어와 소프트웨어를 통합해 솔루션으로 개발했다"며 "현재 기술 수준은 상용화된 몇 개 안 된 기업이기 때문에 높은 수준으로 보시면 된다"고 말했다.

SK텔레콤은 AI 연산 가속기 인프라를 학습과 추론으로 분류한 것에서 추론 분야에 집중할 계획이다. 정 팀장은 "급속도로 AI 서비스가 늘어날 것을 보면 앞으로는 추론 인프라가 늘어날 것이라고 예상한다"며 이같이 밝혔다.

SK텔레콤은 또한 AI 연속 가속기를 AI 연산이 수행되는 위치에 따라 데이터센터, Personal 디바이스, IoT 디바이스로 분류했다. SK텔레콤은 이 가운데 데이터센터에 집중한다는 계획이다.

▲ SK텔레콤 AI 가속 솔루션 사진./사진=SK텔레콤 제공

 

SK텔레콤 AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다.

SK텔레콤이 개발한 AI 가속 솔루션을 활용하면 별도의 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나 데이터센터 운용비 절감도 가능하다.

SK텔레콤은 AI 연산 속도 및 전력 효율성을 보다 향상시킬 수 있는 '차세대 AI 가속 솔루션'도 개발할 예정이다.

한편 미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억 달러에 이를 것으로 예상된다. 

엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.