Home / 핫뉴스
“엔비디아 칩 빌려드려요”
클라우드에서 GPU 빌려 쓰는 GPUaaS
- 미디어1 (media@koreatimes.net)
- Nov 22 2024 12:28 PM
서버 설치 때 초기 투자비 부담 덜어 최신 GPU 구매 시간도 단축 가능 사용한 만큼만 비용 내 효율성 높아 삼성SDS·SK텔레콤 사업에 적극적
인공지능(AI) 열풍으로 고성능 연산을 위한 그래픽처리장치(GPU) 품귀 현상이 심화되면서 ‘GPU를 빌려주는 구독 서비스’가 주목받고 있다. 13일 정보기술(IT) 업계에 따르면 클라우드 환경에서 GPU를 서비스 형태로 제공하는 ‘GPUaaS’가 속속 등장하고 있다.
3월 엔비디아 연례 인공지능(AI) 개발자 회의 'GTC 2024'에서 젠슨 황 최고경영자(CEO)가 차세대 그래픽처리장치(GPU) 블랙웰을 중심으로 한 AI 연산 플랫폼을 선보인 모습. AFP 연합뉴스
GPU는 그래픽 작업뿐 아니라 AI, 엔지니어링, 과학, 의학, 금융 등 다양한 분야에서 대규모 데이터 처리와 병렬 계산 효율을 높이는 데 쓰인다. 특히 딥러닝과 같은 AI 분야는 대량 계산이 필요해 GPU 활용이 필수적이다. 이때 GPUaaS는 ①클라우드 서비스 제공자가 GPU를 가상화한 후 ②사용자가 필요한 만큼의 GPU 자원만 쓰고 비용을 내게 해준다.
GPUaaS의 장점은 명확하다. 예를 들어 일반 기업이 엔비디아의 최신 GPU를 자사 서버나 컴퓨터에 설치하려면 초기 투자 비용이 크고 유지 보수가 까다로운데 관련 비용을 아낄 수 있다. 최신 GPU를 구매해서 받기까지 걸리는 시간도 단축이 가능하다.
데이터센터 내부 모습. 게티이미지뱅크
글로벌 빅테크들은 이미 GPUaaS 서비스를 확장하거나 활발하게 이용하고 있다. 구글 클라우드는 ‘클라우드GPU’ 서비스를 통해 각종 칩을 선택해 쓸 수 있도록 하고 있다. 요금은 초당 청구되기 때문에 필요한 만큼만 사용하고 비용을 지불하면 된다. 마이크로소프트(MS)나 아마존웹서비스(AWS)도 비슷한 서비스를 운영 중이다. 페이스북·인스타그램의 모기업인 메타는 현재 AI칩 확보에 적극적이지만 일부 대규모 AI 연구는 MS 애저가 보유한 엔비디아의 A100 등을 활용했다.
국내에선 삼성SDS가 GPUaaS 사업에 적극적이다. 삼성SDS는 2021년 7월 삼성 클라우드 플랫폼(SCP)에서 GPU를 빌려주는 서비스를 시작했다. 삼성클라우드 플랫폼의 GPU 가상서버에서 프로젝트 용도 및 규모 등에 따라 원하는 GPU의 수량을 자유롭게 선택할 수 있고 2023년 말부터 엔비디아의 AI용 반도체인 H100도 빌려주고 있다. SK텔레콤도 미국의 대표 GPUaaS 기업인 람다(Lambda)와 손을 잡고 12월부터 GPU 구독 사업에 뛰어든다. SK텔레콤은 우선 H100 기반의 서비스를 시작하고 내년 3월에는 국내 최초로 H200 칩을 도입해 물량을 확대할 계획이다.
김지현 기자
www.koreatimes.net/핫뉴스
미디어1 (media@koreatimes.net)
