- 암 기반 인스턴스, 인퍼런스 인스턴스 등
아마존웹서비스(Amazon Web Services, 이하 AWS)는 클라우드 컨퍼런스 ‘AWS 리인벤트(AWS re:Invent) 2019’에서 9개의 새로운 ‘아마존 EC2’ 혁신 서비스를 발표했다.
현재 AWS는 GPU 인스턴스 그리고 표준 인스턴스를 위한 100Gbps 연결성을 갖는 클라우드 서비스를 운영중이다.
‘AWS 리인벤트 2019’에서 AWS는 ▲AWS 그래비톤(Graviton)2 칩으로 구동되는 새로운 암(Arm) 기반 인스턴스(M6g, C6g, R6g) ▲AWS 인퍼렌셜(Inferential) 프로세서로 구동되는 머신러닝 인퍼런스 인스턴스(Inf1) ▲머신러닝을 통해 아마존 EC2 사용을 최적화할 수 있는 새로운 아마존 EC2 기능 ▲그리고 AWS 클라우드를 통해 워크로드를 확장하고 보호하고 관리하는 새로운 네트워킹 솔루션들을 대거 발표했다.
◆x86 기반 인스턴스에 비해 최대 40% 향상된 성능과 비용절감을 가능케 하는 새로운 암 기반 AWS 그래비톤2 프로세서로 구동되는 ‘아마존 EC2 M, R, C 인스턴스’ = 암(Arm) 기반 아마존 EC2 A1 인스턴스(AWS의 첫번째 버전 그래비톤 칩으로 구동)는 2018년 출시 이후 컨테이너 기반의 마이크로서비스와 웹 티어 애플리케이션처럼 스케일 아웃 방식 워크로드를 통해 기업에게 상당한 비용절감 효과를 제공했다.
비용 절감 효과와 더불어 OSV(운영 체제 벤더) 및 ISV(독립 소프트웨어 벤더)들의 암(Arm) 지원 경향에 따라, 기업은 이제 고도의 데이터 분석과 메모리 집약적 데이터 저장 등의 다양한 특성을 갖는 까다로운 작업을 AWS 그래비톤 기반 인스턴스에서 처리하기를 원하고 있다.
이러한 다양한 워크로드를 처리하기 위해서 A1 인스턴스가 지원하는 능력 이상의 것을 필요로 하는데, 이를테면 더 빠른 처리속도, 더 높은 메모리 용량, 더 넓은 대역폭, 더 큰 인스턴스 크기이다.
새로운 암(Arm) 기반 아마존 EC2 M, R, C 인스턴스는 AWS 그래비톤2 프로세스로 구동되는데, x86 프로세서 기반의 M5, R5, C5 인스턴스에 비해 최대 40% 이상의 비용 및 성능 개선 효과를 제공한다.
여기에는 다양한 워크로드가 해당되는데 이를 테면 고성능 컴퓨팅, 머신러닝, 애플리케이션 서버, 비디오 인코딩, 마이크로 서비스, 오픈 소스 데이터베이스, 인메모리 캐시 등이 포함된다.
새로운 암 기반 인스턴스는 AWS 니트로 시스템(Nitro System)으로 구동되는데, AWS 니트로 시스템은 AWS 하드웨어와 소프트웨어 혁신의 집합체로서 효율적이고 유연하며 안전한 클라우드 서비스를 제공하기 위한 것으로 독립적인 멀티테넌시, 프라이빗 네트워킹, 고속의 로컬 스토리지를 통해 기업의 AWS 사용 비용과 노력을 절감시켜 준다.
‘AWS 그래비톤2 프로세서’는 1세대에 비해 성능 최적화를 위한 새로운 기능을 갖췄다.
AWS 최첨단 7나노미터 제조 기술이 적용된 64비트 ‘암 네오버스(Arm Neoverse)’ 코어와 맞춤형 실리콘을 채택했다.
클라우드 네이티브 애플리케이션에 최적화된 AWS 그래비톤2 프로세서는 과학용 또는 고성능용 컴퓨팅 작업 시 코어당 2배 빠른 성능, 신속한 머신러닝 추론을 위한 최적화된 지침, 컴프레션 워크로드를 위한 맞춤형 하드웨어 가속 기능 등을 제공한다.
보안 강화를 위해 상시적으로 완전 암호화되는 DDR4 메모리를 제공하며 코어당 50% 더 빠른 속도의 암호와 기술을 보유하고 있다.
‘AWS 그래비톤2 프로세서’로 구동되는 인스턴스는 최대 64개의 가상 CPU(vCPU), 25Gbps의 향상된 네트워킹 및 18Gbps의 EBS 대역폭을 제공한다.
기업은 모든 인스턴스 유형에 대해 NVMe SSD 로컬 인스턴스 스토리지(C6gd, M6gd 및 R6gd) 또는 베어 메탈 옵션 중 선택할 수 있다.
새로운 인스턴스 유형은 오픈 소스 소프트웨어(아마존 리눅스2, 우분투, 레드햇엔터프라이즈 리눅스, SUSE Linux Enterprise Server, 페도라, 디비안, 프리BSD, 아마존 코레토의 OpenJDK), 컨테이너 서비스(도커 데스트탑, 아마존 ECS, 아마존 EKS), 에이전트(아마존 클라우드 와치, AWS 시스템 매니저, 아마존 인스펙터) 및 개발자 툴(AWS 코드 스윗, 젠킨스)을 지원한다.
이미 AWS의 아마존 엘라스틱 로드 발랜싱(Amazon Elastic Load Balancing), 아마존 엘라스티캐시(Amazon ElastiCache), 아마존 엘라스틱 맵리지(Amazon Elastic Map Redge) 등은 AWS 그래비톤2 인스턴스 테스트를 거쳐 탁월한 성능과 가격 경쟁력을 입증했으며, 오는 2020년 선보일 계획이다.
M6g 인스턴스는 현재 미리 보기를 제공하고 있다.
C6g, C6gd, M6gd, R6g 및 R6gd 인스턴스도 미리보기도 향후 몇 개월 이내에 제공될 것이다.
AWS 그래비톤2 프로세서로 구동되는 인스턴스에 대한 자세한 사항은 https://aws.amazon.com/ec2/graviton 통해 알 수 있다.
◆“최소의 비용으로 가장 빠른 클라우드 머신러닝 추론을 가능하게 하는 AWS 추론 칩을 탑재한 아마존 EC2 Inf1 인스턴스” = 최근 다양한 업종의 기업이 일상에서 부딪히는 불편(예: 쇼핑추천서비스, 금융 거래 불법행위 탐지, 채팅봇의 고객 응대 증가 등)을 해결하기 위해 머신러닝으로 눈을 돌리고 있다.
이같은 기업 대부분은 머신러닝을 실험단계(Experiment)에서 활용하다가 점차 높은 성능과 효율성이 요구되는 생산분야의 머신 학습 워크로드로 확장하고 있다.
기업은 사용자(end user)가 만족하는 경험을 제공하기 위해 고성능의 머신러닝 애플리케이션을 필요로 한다.
머신러닝 모델 훈련이 많은 관심을 받는 것은 당연하지만, 실제 복잡한 처리와 생산 분야의 머신러닝 운영의 비용(머신러닝 모델 훈련에 소요되는 총 비용 중 90%가 추론에 사용됨)은 대부분 추론에 사용된다.
추론으로 인해 머신러닝이 더 광범위하게 사용되지 못할 수 있고, 결과적으로 고객 혁신의 걸림돌로 작용할 수 있다.
몇몇 실시간 머신러닝 애플리케이션은 추론이 얼마나 빨리 처리되는지(지연 시간)에 민감한 반면, 다른 워크로드는 초당 처리할 수 있는 추론 수에 대해 최적화돼야 해(처리량), 기업은 대기 시간과 처리량 중 선택을 할 수밖에 없다.
‘아마존 EC2 Inf1 인스턴스’를 사용하는 기업은 클라우드에서 최소의 비용으로 최고 성능의 머신러닝 서비스를 받을 수 있어, 더 이상 대규모 생산 머신러닝 모델 운영에 있어 지연시간과 처리량 사이에서 차선의 선택을 할 필요가 없다.
현재 ‘아마존 EC2 Inf1 인스턴스’는 AWS에서 개발한 고성능 머신러닝 추론 칩 ‘AWS 인퍼런시아(Inferentia)’를 탑재했다.
‘AWS 인퍼런시아’는 비용 효율적으로 실시간 일괄 추론 애플리케이션을 위한 매우 높은 처리량, 낮은 지연 시간 및 지속적인 성능을 제공한다.
아울러 ‘AWS 인퍼런시아’는 칩당 128 테라(TOPS), 다수의 프레임워크(텐서플로(TensorFlow), 파이토치(PyTorch), 아파치 MXNet(Apache MXNet))의 ‘아마존 EC2 Inf1 인스턴스’당 최대 2000 TOPS, 다수의 데이터 유형(INT-8, mixed precision FP-16, bfloat16)을 제공한다.
맞춤형 AWS 하드웨어 및 소프트웨어 컬렉션 AWS 니트로 시스템에 의해 구동되는 새로운 ‘암 기반 인스턴스’는 독립된 다중차용(multi-tenancy), 프라이빗 네트워킹 및 빠른 로컬 스토리지를 통해 효율적이고 유연하며 안전한 클라우드 서비스를 가능하게 해 AWS 사용 고객의 편의를 증진한다.
덧붙여 ‘아마존 EC2 Inf1 인스턴스’는 대기시간이 낮아, 최대 3배 빠른 속도로 추론을 처리할 수 있고, 기존 클라우드 머신러닝 추론 서비스 중 가장 빠른 처리속도와 낮은 비용으로 이용할 수 있는 ‘아마존 EC2 G4 인스턴스’ 제품군 보다 최대 40% 더 낮은 비용으로 추론이 가능하다.
‘아마존 EC2 Inf1 인스턴스’를 사용 기업은 클라우드에서 가장 낮은 비용으로 이미지 인식, 음성 인식, 자연어 처리, 개인화, 부정 행위 탐지 등의 작업을 수행하기 위해 대규모 머신러닝 추론을 실행할 수 있다.
또 ‘아마존 EC2 Inf1 인스턴스’는 AWS 딥러닝 AMI(AWS Deep Learning AMI)을 통해 제공받을 수 있으며, 아마존 세이지메이커(Amazon SageMaker), 아마존 ECS(Amazon ECS(Elastic Kubernetes Service)) 및 아마존 EKS(Amazon EKS(Elastic Kubernetes Service))를 비롯한 서비스를 통해 이용할 수 있다.
◆머신러닝 기능을 갖춘 인스턴스 추천 엔진(recommendation engine)을 사용, 올바른 컴퓨팅 리소스 선택을 용이하게 해주는 ‘AWS 컴퓨트 옵티마이저(Compute Optimizer)’ = 워크로드에 적합한 컴퓨팅 리소스 선택은 중요하다.
리소스를 과도하게 예측하면 불필요한 비용이 발생하고, 부족하게 예측하면 성능 저하로 이어질 수 있다.
현재까지 기업은 아마존 EC2 리소스 사용을 최적화하기 위해 리소스 사용 현황과 성능 데이터 분석업무에 시스템 엔지니어를 배치했고, 다양한 워크로드의 애플리케이션 시뮬레이션에 리소스를 투자했다.
여기에 더해 애플리케이션과 사용패턴이 변화하고, 새로운 애플리케이션이 출시되고, 새로운 하드웨어 플랫폼이 시장에 나옴에 따라, 기업은 리소스 선택 프로세스를 반복하게 돼 기업의 부담은 가중됐다.
그 결과 기업은 자원을 비효율적으로 방치하거나, 값비싼 타사 솔루션에 비용을 지불하거나 아마존 EC2 사용량을 관리하는 적정한 솔루션을 직접 구축하기도 한다.
‘AWS 컴퓨트 옵티마이저(AWS Compute Optimizer)’는 직관적이고 쉽게 실행 가능한 AWS 리소스 레커멘데이션을 제공해 기업은 전문 지식이나 상당한 시간과 비용을 투자하지 않고도 ‘오토 스케일링 그룹(Auto Scaling groups)’에 속하는 워크로드에 적합한 ‘아마존 EC2 인스턴스’ 유형을 판별할 수 있다.
또 ‘AWS 컴퓨트 옵티마이저’는 워크로드의 구성 및 리소스 활용도를 분석, 수십 가지 특성(예: 워크로드가 CPU 집약적인지 또는 일상적인 패턴을 보이는지)을 식별한다.
‘AWS 컴퓨트 옵티마이저’는 이같은 특성을 분석하고 워크로드에 따라 필요한 하드웨어 리소스 헤드룸을 식별하기 위해 AWS가 구축한 머신러닝 알고리즘을 사용한다.
이 밖에도 ‘AWS 컴퓨트 옵티마이저’는 다양한 EC2 인스턴스에서 워크로드가 어떻게 수행되는지 추론하고 특정 작업 부하에 대한 최적의 AWS 계산 리소스에 대한 권장사항을 제시한다.
기업은 AWS 관리 콘솔에서 몇 번의 클릭만으로 AWS 컴퓨트 옵티마이저를 활성화할 수 있다.
활성화되면 즉시 실행 중인 AWS 리소스 분석, 환경설정 및 아마존 클라우드 워치(Amazon CloudWatch) 메트릭스 히스토리 관찰을 실행하고, 해당 특성에 따른 레커멘데이션을 생성한다.
AWS 컴퓨트 옵티마이저에 관한 자세한 사항은 http://aws.amazon.com/compute-optimizer에서 확인할 수 있다.
◆IP 멀티캐스트 프로토컬을 자체 지원하며 탄력적인 글로벌 네트워크 구축을 간편하게 해 주는 새로운 ‘AWS 트랜짓 게이트웨이 솔루션’ = ‘AWS 트랜짓 게이트웨이(Transit Gateway)’는 ‘아마존 버추얼 프라이빗 클라우드(Amazon Virtual Private Clouds, VPCs)’와 기업의 온프레미스 데이터센터간 또는 AWS 리전내의 수 천 개의 VPCs 간에 연결성을 간편하게 확장하고 관리하게 해주는 네트워크 허브다.
이번에 AWS트랜짓 게이트웨이에 5가지의 새로운 네트워킹 기능을 추가, 글로벌 프라이빗 네트워크의 관리를 단순화했을 뿐 아니라 클라우드 상에서 워크로드 멀티캐스트를 가능케 한다.
우선, ‘트랜짓 게이트웨이 멀티캐스트(Transit Gateway Multicast)’는 퍼블릭 클라우드용 네이티브 멀티캐스트 지원 서비스다.
‘멀티캐스트 라우팅’은 단일 소스로부터 나오는 동일 데이터를 다수의 서브스크라이버들에게 신속하게 배포하게 하는 기능이다.
클라우드 상에서 멀티캐스트 애플리케이션들을 호스트할 수 있는 방법은 쉽지 않았다.
대부분의 솔루션이 하드웨어 기반이라, 경직되고 확장성이 없는 하드웨어를 온프레미스 상에서 구입하고 유지해야 했기 때문이다.
특히 이 하드웨어를 온프레미스 네트워크상에 유지해야 했기에, 복잡성이 증가하고 비용이 많이 들었다.
어떤 경우는 네이티브 지원 기능 없이 클라우드 상에서 멀티캐스트 솔루션을 운용하기도 했는데, 이런 경우는 유지가 어렵고 확장성이 없어서 문제가 됐다.
멀티캐스트를 사용하면 네트워크 대역폭 소모를 줄일 수 있고, 최종 서브스크라이버에게 거의 동시에 정보를 전달할 수 있다.
트랜짓 게이트웨이 멀티캐스트를 사용하면 멀티캐스트 애플리케이션들을 클라우드상에 구축할 수 있어 확장성이 담보되고 따라서 최대 용량에 대비한 하드웨어의 구입이 불필요해진다.
두 번째로, ‘트랜짓 게이트웨이 인터-리전 피어링(Transit Gateway Inter-Region Peering)’은 복수의 AWS 리전에 걸쳐 트랜짓 게이트웨이들을 연결시켜 글로벌 네트워크를 간편하게 구성하게 해 준다.
과거에는 한 리전의 VPC 리소스를 다른 리전의 VPC 리소스와 소통하게 하려면 이 VPC 간의 직접적인 연결이 유일한 방법이었다.
이 방법은 VPC가 다수인 경우 확장성이나 관리면에서 난점이 많았다.
‘트랜짓 게이트웨이 인터-리전 피어링’은 AWS 리전 간에 AWS 트랜짓 게이트웨이들을 피어링해 이 문제를 해결, 안전하고 프라이빗한 글로벌 네트워크 구성을 간편하게 해 준다.
이 솔루션을 사용하면 리전 간 트래픽이 AWS 백본을 통해 이동되기 때문에 퍼블릭 인터넷을 거칠 필요가 없으며 트래픽이 익명화되고 암호화된다.
고도의 보안이 보장되며, 리전 간 이동이 최적화되어 퍼블릭 인터넷에 비해 훨씬 강력하고 일관된 성능을 얻을 수 있다.
세 번째로, ‘액설레이티드 사이트 투 사이트(Accelerated Site to Site) VPN’은 안전하고 예측가능한 고성능의 VPN을 제공하는 새로운 서비스로, 원거리에서 AWS의 서비스에 안전하게 접근하기를 원하는 기업에게 제공된다.
일반적으로 기업은 AWS 상의 애플리케이션과 물리적으로 동떨어져 있는 장소에 사무실을 가지고 있는 경우가 많기 때문에 인터넷 VPN을 이용, AWS 서비스에 접근하게 된다.
다만, 이같은 접속은 인터넷을 거쳐야 하기 때문에 퍼블릭 네트워크를 여러 단계 거치게 되면서 신뢰성이 떨어지고 성능 예측이 어려우며 보안상의 문제가 노출되기 쉽다.
‘액설레이티드 사이트 투 사이트 VPN’을 사용하면 AWS 에지를 통해서 트랜짓 게이트웨이로 연결되어, 거쳐가야 하는 네트워크 숫자가 줄고, 낮은 레이턴시와 높은 일관성을 보장하는 최적의 성능을 얻을 수 있다.
네 번째로 ‘소프트웨어 정의 와이드 애리어 네트워크(Software Defined Wide Area Network , SD-WAN)’ 벤더 통합은 시스코, 아루바, 실버픽, 아비아트릭스와 같은 업체의 SD-WAN 솔루션과 AWS를 통합할 수 있게 하는 새로운 서비스다.
많은 기업은 원거리상의 네트워크를 관리하기 위해, 또는 원거리 사무실을 데이터센터나 AWS 클라우드 네트워크에 연결하기 위해 SD-WAN을 사용한다.
이렇게 하기 위해서는 수동으로 원거리 사무실을 구축하고 AWS 리소스를 구성해야 하는데 이것은 시간과 노력면에서 간단치 않은 일이다.
‘액설레이티드 사이트 투 사이트 VPN’이 안전하고 예측가능한 고성능의 연결을 가능케 하는 반면, 이 서비스는 한발 더 나아가 외부 SD-WAN 솔루션을 활용해 자동으로 AWS 리소스를 구축하고 구성하고 연결하는 기능을 수행한다.
따라서 원거리 사무실들의 연결성을 확보하고 관리하는 작업을 간편하게 끝낼 수 있다.
마지막으로 ‘트랜짓 게이트웨이 네트워크 매니저(Transit Gateway Network Manager)’는 글로벌 네트워크 리소스를 클라우드상 또는 온프레미스상의 모니터링을 단일 화면에 통합해 단순화해주는 솔루션이다.
애플리케이션 운용상 클라우드 의존도가 높아지기는 해도, 아직도 온프레미스 네트워크를 유지하는 경우가 많아, 이 두 가지 환경을 모두 모니터링해야 비상시 적절한 대응을 할 수 있게 된다.
AWS와 온프레미스 벤더간의 관리를 위해서는 다수의 도구와 콘솔이 필요하게 되는데, 그 복잡성 때문에 실수가 생기기도 하고 문제 파악과 해결에 타이밍을 놓치기도 한다.
‘‘트랜짓 게이트웨이 네트워크 매니저’는 글로벌 프라이빗 네트워크 구축과 관리를 간편하게 만들어 주는데, 통합 대쉬보드를 통해서 기업의 VPC를 시각적으로 모니터링할 수 있게 할 뿐 아니라 ‘트랜짓 게이트웨이’, ‘다이렉트 커넥트(Direct Connect), 원거리 사무실의 VPN 연결성, 온프레미스 네트워크들도 모두 모니터링할 수 있게 해준다.
◆외부 네트워크와 보안 장치를 내부 네트워크로 쉽게 통합시켜 주는 ‘아마존 VPC 잉그레스 라우팅(Ingress Routing)’ = 기업은 AWS 클라우드를 채택할 때 기존 데이터센터에서 사용하던 네트워크나 보안장치를 클라우드상의 가상 장치로 가져오려는 경향이 있다.
실제로 AWS 마켓플레이스에는 이같은 네트워킹이나 보안 가상 장치를 폭넓게 제공하고 있지만, 기업은 이 가상장치를 통해서 아마존 VPC로 트래픽을 가져오지는 않는다.
‘아마존 VPC 잉그레스 라우팅’을 사용하면 라우트 테이블을 인터넷 게이트웨이(IGW)와 버추얼 프라이빗 게이트웨이(VGW)을 연계시킬 수 있고, VPC 트래픽을 제3의 장비로 방향전환하는 라우트를 선택할 수 있게 된다.
이렇게 하면 가상 장치들을 통합, 내외부 트래픽의 라우팅과 관련된 네트워킹과 보안 요구조건을 만족시킬 수 있게 된다.
이는 몇 번의 클릭이나 API 콜로 해결될 수 있는데, 네트워킹과 보안 장치를 자체 네트워크상에 구축함에 있어 확장성이 없는 복잡한 과정을 거치지 않고 쉽게 할 수 있다.
아마존 VPC 인그레스 라우팅을 지원하는 가상장치 협력업체에는 128 테크놀로지(Technology), 아비아트릭스(Aviatrix), 바라쿠다(Barracuda), 체크포인트(Check Point), 시스코(Cisco0, 시트릭스(Citrix Systems), 파이어아이(FireEye), 포티넷(Fortinet), 포스포인트(Forcepoint), 하쉬코프(HashiCorp), IBM 시큐리티(Security), 라스트라인(Lastline), 넷스카우트(NETSCOUT Systems), 팔로알토네트웍스(Palo Alto Networks), 쉴드엑스 네트웍스(ShieldX Networks), 소포스(Sophos), 트렌드마이크로(Trend Micro), 볼틱스(Valtix), 벡트라(Vectra), 버사 네트웍스(Versa Networks) 등이 있다.
중남미 핀테크 기업 뉴뱅크(Nubank)의 레난 카파베르데(Renan Capaverde) 엔지니어링 담당 이사는 “뉴뱅크는 고객이 자신의 자산을 쉽게 관리할 수 있도록 간편하고 안전하고 100% 디지털적인 솔루션을 개발하고 있다. 우리 플랫폼에서 이뤄지는 수 백 만 건의 거래를 지원하기 위해 아마존 EC2 상에서 수 백 개의 애플리케이션을 다양한 요구조건 하에서 운영하고 있다. 인프라의 최적화를 위해 전담팀을 배치, EC2 인스턴스 활용을 지속적으로 모니터링 분석하고 있다. AWS 컴퓨트 옵티마이저(Compute Optimizer) 덕분에 우리는 단일 모니터를 통해 AWS 환경에서 이뤄지는 모든 작업에 대한 최적의 EC2 인스턴스를 파악할 수 있게 됐다. 다양한 인스턴스에 대한 리소스 활용 예측을 시각화 해 우리는 보다 정확한 판단을 내릴 수 있게 됐다”고 말했다.
일본의 증권 및 파생상품 전문 기업 재팬 익스체인지 그룹(Japan Exchange Group)의 류스케 요코하마(Ryusuke Yokohama) 수석임원 겸 CIO는 “AWS 트랜짓 게이트웨이를 사용해 IP 멀티캐스트를 론칭하게 되어 기쁘게 생각한다. 일본의 시장 참여자들에게 편리성과 접근성을 향상시키는 것은 우리의 가장 중요한 과제다. 우리는 시장 데이터 배포를 위해 멀티캐스트를 광범위하게 사용하고 있다. AWS의 멀티캐스트 지원 서비스를 활용하여 우리는 클라우드 기반 데이터 배포 방식을 채택했고, 이에 따라 사용자 경험을 강화하고 시장 참여자들에게 더 용이한 접근성을 제공할 수 있게 됐다”고 말했다.
<김동기 기자>kdk@bikorea.net
김동기 기자 kdk@bikorea.net
