알파경제 - SKT, Arm·리벨리온과 AI 추론 서버 공동개발...′CPU+NPU′로 저비용·고효율 구현

Arm CPU와 리벨리온 리벨카드 결합, 독자 모델 에이닷엑스 운영 검토

(사진= 연합뉴스)

 

[알파경제=문선정 기자] SK텔레콤이 반도체 설계 기업 Arm, AI 반도체 기업 리벨리온과 함께 AI 데이터센터의 사업 협력에 나선다.

SK텔레콤은 지난 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십을 체결했다고 10일 밝혔다.

​이번 협약을 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard™)’를 서버에 함께 탑재해 AI 추론 성능을 높일 수 있는 솔루션을 공동 개발한다.

AI 산업이 학습에서 추론 중심으로 이동하면서, 전력과 비용 효율이 높은 NPU 기반 인프라가 대안으로 부상하고 있다.

특히 데이터 처리와 시스템 운영을 담당하는 CPU와 추론 연산을 수행하는 NPU를 결합한 구조가 효율적인 방식으로 평가된다.

CPU가 시스템의 관제탑 역할을 하며 데이터 흐름을 총괄하고, NPU가 AI 추론 연산을 전담하는 이종 컴퓨팅 구조는 시스템의 성능과 효율을 극대화할 수 있다.

​Arm AGI CPU는 데이터센터용으로 설계된 신규 프로세서이며, 리벨카드는 대규모 AI 추론에 최적화된 NPU다. 

 

두 칩을 결합할 경우 전력 효율을 높이고 운영 비용을 낮출 수 있는 것이 특징이다. 

 

(사진= SK텔레콤 제공)

SK텔레콤 관계자는 알파경제에 "AI 서비스가 다양해지면서 각 용도에 최적화된 전용 인프라의 중요성이 커지고 있다"며 "이번 협력을 통해 GPU 중심 인프라를 보완하고 추론에 특화된 고효율 솔루션을 확보하고자 한다"고 설명했다.

​SK텔레콤은 해당 서버를 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 또한 해당 서버로 자체 독자 개발한 AI 파운데이션 모델 ‘A.X K1’을 운영하는 방안도 검토하고 있다.

​이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.

 

알파경제 문선정 기자(moonsj@alphabiz.co.kr)