클라우드 컴퓨팅은 AI 기술의 발전에 따라 혁신적인 변화를 겪고 있다. 최근 발표된 AWS 그래비톤4는 이러한 흐름 속에서 차세대 클라우드 인프라의 새로운 기준을 제시하며 업계의 주목을 받고 있다.
AWS 그래비톤4는 최신 Arm Neoverse V2 기반으로 설계된 프로세서로, 이전 세대인 그래비톤3 대비 최대 30% 향상된 컴퓨팅 성능을 제공한다. 또한, 50% 더 많은 코어와 75% 더 많은 메모리 대역폭을 통해 더욱 강력한 성능을 실현했다. 이러한 기술적 우위는 고성능 부동 소수점 및 벡터 명령어를 지원하는 Armv9 아키텍처와 결합되어 AI 및 머신러닝(ML) 워크로드에 최적화된 성능을 제공한다.
AI 기술 확산을 위해 Arm은 주요 AI 프레임워크 및 소프트웨어와 협력하며 Arm Kleidi를 출시했다. 이를 통해 개발자들은 별도의 전문 지식 없이도 AWS 그래비톤4에서 Llama 3 70B 및 Llama 3.1 8B와 같은 대규모 언어 모델(LLM)을 효율적으로 실행할 수 있다. 특히 PyTorch와 같은 프레임워크의 최적화를 통해 초당 토큰 수와 첫 토큰 생성 시간 지표를 크게 개선하며 AI 워크로드의 혁신을 이끌고 있다.
 |
||
| ▲ AWS 그래비톤4에서의 Llama LLM | ||
고성능 컴퓨팅(HPC)과 전자 설계 자동화(EDA) 워크로드에서도 그래비톤4는 뛰어난 성능을 입증했다. 코어당 16% 더 많은 메인 메모리 대역폭과 vCPU당 두 배의 L2 캐시를 제공하여 메모리 대역폭에 민감한 애플리케이션의 성능을 극대화한다. Arm의 내부 테스트 결과, 그래비톤4는 EDA 워크로드에서 그래비톤3 대비 최대 37% 더 높은 성능을 보였다.
 |
||
| ▲ AWS 그래비톤 4의 HPC 및 EDA 워크로드 이점 | ||
소프트웨어 에코시스템 내에서 AWS 그래비톤 프로세서를 채택하는 사례가 지속적으로 증가하고 있다. 고객들은 비용 절감과 성능 향상뿐만 아니라 탄소 배출량 감소 및 지속 가능성 목표 달성이라는 이점을 경험하고 있다. 이러한 변화는 클라우드 컴퓨팅의 미래를 보다 친환경적이고 효율적인 방향으로 이끌고 있다.
 |
||
| ▲ Arm Neoverse 기반 AWS 그래비톤3 도입의 에코시스템 이점 | ||
이준문 기자 jun@newstap.co.kr
