AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2018
신규 서비스 살펴 보기
윤석찬
AWS 테크 에반젤리스트
@channyun

5 0 , 0 0 0 +
참가자수
2 , 1 0 0 +
기술 세션
1 0 0 , 0 0 0 +
라이브 등록자수
2018

NETWORKING and CONTENT DELIVERY (8)
AWS Global Accelerator
Performance and availability for your global
user base
AWS Transit Gateway
Interconnect on-premises networks and VPCs
at scale
AWS Transfer for SFTP
AWS DataSync
Copy, move, sync large amounts of data
between on-prem & AWS
AWS Elemental MediaConnect
Broadcast quality video transport
Elastic Fabric Adapter
Run HPC workloads with high inter-node
communications
AWS Cloud Map
Map of your cloud complete with friendly
names
AWS App Mesh
Monitor and control microservices
COMPUTE (12)
EC2 Spot Instance
Use spot instance in auto-scale groups
AWS Outposts
Bring AWS services to any data center or on-
premises
CodeDeploy ECR as a Source Action
ECS supports Blue/Green Deployments
EC2 A1 Arm Instance
EC2 C5n Instance
EC2 P3Dn Instance
Firecracker
AWS License Manager
Lightsail Tagging
Lightsail Export to EC2
Hibernation for EC2 Instances
IoT (5)
AWS IoT SiteWise
Collect telemetry data into cloud
AWS IoT Events
Event detection and action logic for IoT
AWS IoT Things Graph
represent Things such as devices and services
as Models
AWS IoT Service Delivery Designations
Core, Greengrass, Analytics Partners in IoT
Service Delivery
AWS IoT Device Tester for FreeRTOS
Operating system for microcontrollers
DATABASE (6)
Aurora Global Database
Replicate updates globally of multi-regions
DynamoDB Transactional APIs
All-or-nothing queries for business logic
DynamoDB on Demand
Remove capacity planning, Pay-per request
Amazon Timestream
Time-series database for IoT and ops apps
Amazon Quantum
Fully managed ledger database
Amazon RDS on VMware
Run RDS on VMware vSphere
MARKETPLACE (3)
AWS Private Marketplace
AWS Marketplace for SageMaker
AWS Marketplace for Containers
MANAGEMENT and GOVERNANCE (4)
CloudWatch Automatic Dashboards
Pre-built best practices dashboards for
CloudWatch
CloudWatch Logs Insights
Log analytics service for CloudWatch logs
AWS Well Architected Tools
Training partners to deliver Well Architected
reviews
AWS Control Tower
Automates setup of baseline environments
STORAGE (11)
S3 Batch Operations
Manage billions of objects using APIs or
console
S3 Intelligent Tiering
Automatically optimize pricing based on S3
based on access frequency
S3 Object Lock
Write once, read many object locking for S3
S3 Glacial Deep Archive
Lowest price storage tier - for long term
S3 PUT to Glacier
four new features to reduce your storage
costs
Amazon FSx for Windows File Server
Fully managed Microsoft Windows file
system
Amazon FSx for Lustre
Fully managed Lustre file system
AWS Snowball Edge Compute Optimized
Run compute-intensive application offline
EBS doubles peak IOPS
EFS Infrequent Access
EFS Multi-VPC Access
SECURITY, IDENTITY, COMPLIANCE (1)
AWS Security Hub
Unified security management with actionable
prompts
BLOCKCHAIN (1)
Blockchain on AWS
Fully managed Blockchain network in
minutes
MACHINE LEARNING (11)
Amazon SageMaker Ground Truth
Build quality training sets using AI labeling
Amazon SageMaker Neo
Train model once, run them anywhere
Amazon SageMaker RL & Deep Racer
Learn Reinforcement Learning (RL) easily
Dynamic Training with Apache MXNet
Amazon Elastic Inference
Add GPU to any EC2 or SageMaker instance
AWS Inferentia
Custom inference chip for inferencing
workloads
Amazon Textract
Extract text and data from virtually any
document
Amazon Comprehend Medical
Scan and extract unstructured medical data
with ML
Amazon Personalize
Managed recommendations engine
Amazon Forecast
Accurate time-series forecasting service
DEVELOPER TOOLS & MOBILE (2)
AWS Tools for PyCharm
AWS Toolkits for Visual Studio Code,
IntelliJ, and PyCharm
AWS Amplify Console
Continuous deployment and hosting for
modern web apps
SERVERLESS (4)
Ruby Support for Lambda
Custom Engine for Lambda
Lambda as a Target for App Load Balancer
Invoke Lambda from ALB for serverless
HTTP application
Lambda Layers
Manage common software and data across
multiple functions
ANALYTICS (4)
Amazon Managed Streaming for Kafka
Fully managed Apache Kafka service
AWS Lake Formation
Setup secure data lakes in days
ML Insights for Amazon QuickSight
Kinesis Data Analytics for Java Apps
ROBOTICS and SATELLITE (2)
AWS RoboMaker
Build robotic applications easily
AWS Ground Station
Process satellite data and downlink via cloud
AWS re:Invent 2018 발표 내용 한눈에 보기

여러분이 관심 있는 서비스는?
• 글로벌 인프라
• 컴퓨팅
• 스토리지
• 데이터베이스
• 인공 지능 및 기계 학습
• 보안 및 하이브리드
• IoT, 로봇 및 우주 산업

AWS 클라우드 비지니스 현황
4 6 %
연 간 성 장 률
Q3 2018 vs Q3 2017
$2 7 B
연간 매출
ANNUALIZED FROM Q3 2018

“Builder들이 진정 원하는
것은 무엇인가?”

어떤 IT 워크로드도 수용 가능한
광범위하고 깊이 있는
클라우드 서비스 플랫폼

가장 광범위하고 깊이 있는 클라우드 플랫폼

Amazon 글로벌 네트워크
• 전 세계 100GbE 네트워크 망 운영 중
• 중국을 제외한 전 세계 사설 인터넷 용량 확보
전 세계 150+ 글로벌 PoP 운영
89 Direct Connect 전용선 연결 지점
a e
o
q
i
h
Paris
Sweden
AWS GovCloud East
처음 5년: 4 개 리전 개설
2016–2020: 13 개 리전 개설 및 계획 중
다음 5년 : 7개 리전 개설
A W S
글로벌 리전 확장
1 9 개 리전 5 7 가용 영역( A Z )
d
m
c
g
b
n
s
k
v
i
i
i
i i
i
i
i
Milan
i
Cape Town

AWS Global Accelerator: 이전과 이후

AWS Transit Gateway: 이전과 이후

컴퓨팅 – EC2 인스턴스
통합 컨테이너
오케스트레이션
(ECS)
Kubernates 관리
서비스 (EKS)
서버리스
컨테이너 서비스
(Fargate)
컨테이너 이미지
관리 (ECR)
배치 프로세싱
이벤트 기반 서버리스 컴퓨팅
45개의 이벤트 소스
15분 실행 시간
오픈 소스 프레임워크
스트리밍 지원
API 엔드 포인트
분산 데이터 처리
워크플로 관리
인공 지능을 위한 GPU
인스턴스 타입 지원
대용량 메모리 지원
(SAP를 위한 최대 12TB)
FPGA 인스턴스 (F1)
Nitro 기반 차세대
하이퍼바이저 (C5/M5/R5)
EC2 Fleet
최대 절전 모드
NEW

EC2 인스턴스 타입의 진화
버스팅용
T 3
빅데이터
H 1
메모리
R 5
고속 I/O
I 3
컴퓨팅
C 5
그래픽
G 3
범용 GPU
P 3
대용량
메모리
X 1
X 1 e
범용
M 5
가 상
사 설
서 버
베어메탈
I 3 m
스토리지
D 2 F 1
FPGA
A m a z o n
L i g h t s a i l
HPC전용
Z 1
Powered by
M 5 a R 5 a
• AWS 범용 및 메모리 최적화 인스턴스에서 선택 가능
• AMD 기반으로 비을 10 % 절감 가능
• 애플리케이션 거의 수정 없이 AMD 기반 전환 가능
M 5 d R 5 d C 5 dZ 1 d
• 호스트 서버에 물리적으로 연결된 NVMe 기반 SSD 블록 레벨 인스턴스 스토리지
• 높은 속도 및 낮은 대기 시간의 로컬 블록 스토리지

N E W !
Amazon Linux, Ubuntu, Red Hat
및 ECS Optimized AMI 지원
웹 서버 및 컨테이너형 마이크로
서비스 등에 최적화
Annapurna Labs에서 직접 설계
및 개발 진행

N E W !
애드온 기능으로
사용
수천 개의 코어로
확장 가능
네이티브
통합 지원
Elastic Fabric Adapter(EFA)는 Amazon EC2 인스턴스를 위한 네트워크 인터페이스로, 고객이
전산 유체 역학, 기후 모델링, 저수지 시뮬레이션과 같이 높은 수준의 노드 간 통신이 필요한
고성능 컴퓨팅(HPC) 애플리케이션을 AWS에서 대규모로 실행할 수 있도록 지원합니다.

컴퓨팅 - 컨테이너
통합 컨테이너
(ECS)
Kubernates 관리
서비스 (EKS)
서버리스
(Fargate)
관리 (ECR)
배치 프로세싱
15분 실행 시간
스트리밍 지원
워크플로 관리
EC2 Fleet
NEW

다양한 컨테이너 선택 옵션
A m a z o n E K SAW S Fa r g a t e
f o r E C S
AW S Fa r g a t e
f o r E K S
A m a z o n E C S
C O M I N G
S O O N
클러스터 관리 불필요
서버리스 기반 콘테이너
배포에만 집중
Kubernetes 기반
정식 서비스 가능한
기업형 플랫폼 제공
높은 확장성 및
고성능 콘테이너
관리 플랫폼 제공
서버리스 기반 K8s
서비스 지원 예정
마이크로 서비스를 위한 선택 | 민첩한 개발 및 테스트 가능 | 분 단위 배포 가능

Microservices to Service Mesh
서비스 메시 제어판 (라우팅, 모니터링, 보안)
Svc
A
Svc
B
Side
Car
Side
Car

N E W !
Microservice A
Microservice B
Microservice C
Microservice A
Microservice B
Microservice C
Microservice C
Microservice C
Before After

N E W !
애플리케이션에 대한 맞춤형 클라우드 자원 목록 구성 가능
Before After

컴퓨팅 - 서버리스
통합 컨테이너
(ECS)
Kubernates 관리
서비스 (EKS)
서버리스
(Fargate)
관리 (ECR)
배치 프로세싱
15분 실행 시간
스트리밍 지원
워크플로 관리
EC2 Fleet
NEW

IDE 지원 언어 워크플로프로그래밍 모델
서버리스를 통해
이제 비지니스 로직에만 집중

N E W !
GE N E R AL L Y AVAI L AB L E
A W S
C l o u d 9
AWS Toolkit
for PyCharm
AWS Toolkit
for IntelliJ
AWS Toolkit
for VS Code
GENERALLY AVAILABLE IN DEVELOPER PREVIEW IN DEVELOPER PREVIEW
다양한 오픈 소스 통합 개발 환경 도구 선택 가능
AWS Toolkits for IDEs
+
IDE

N E W !
지원 언어
람다 함수
Ruby언어 지원
+ 새로운 런타임에 대해 API로 구동 -
런타임 호출 규칙 및 통합 지점 수정 가능
AWS Lambda에서 Ruby 지원의 경우,
맞춤형 런타임 기술 활용
Linux 호환 언어 런타임 활용 가능
맞춤형 런타임 지원
+
AWS OPEN SOURCE
o f f e r e d b y
o f f e r e d b y
o f f e r e d b y
o f f e r e d b y
PARTNER SUPPORTED

N E W !
기존 람다 함수에서 중복되던 공유 코드,
라이브러리 및 의존성 패키지를 별도
레이어로 분리 가능
이제 손쉽게 바이너리, 의존성 또는
런타임으로도 람다 실행 환경 확장 가능
Lambda Layers
BUSINESS
LOGIC
LIB
A
LIB
B
BUSINESS
LOGIC
LIB
A
LIB
B
BUSINESS
LOGIC
LIB
A
LIB
B
BUSINESS
LOGIC
LIB
A
LIB
B
프로그래밍 모델
Before
BUSINESS
LOGIC
BUSINESS
LOGIC
BUSINESS
LOGIC
BUSINESS
LOGIC
LIB
A
LIB
B
After

N E W !
서버리스 애플리케이션 저장,
공유 및 배포, 판매 가능
Serverless
Application
Repository
+
람다 함수를 기존 웹
애플리케이션에 통합 가능
ALB Support
for Lambda
AWS
Lambda
Applicatio
n Load
Balancer
AWS
Fargate
Amazon
EC2
재사용 가능한 빌딩 블록으로
애플리케이션 아키텍처 작성
Nested
Applications
• 서버리스 앱을 내부로 세트로 배포 가능
• 개발 중복을 줄여 생산성 향상 도모 가능
• 앱 구성 요소, 모듈 및 전체 응용
프로그램을 레포지터리에 공유 가능
+

N E W !
모바일 앱
채팅 앱
대시보드
IoT 서비스 Amazon API
Gateway
WebSockets API
람다 함수
EC2 엔드포인트
AMAZON KINESIS
기타 AWS 서비스
Stateful 연결
모든 공개 AP I
엔드포인트 지원
Stateful 연결
Web Socket
support for
API Gateway
Websocket API를 통해 Lambda 함수와 API
Gateway 통합으로 실시간 양방향 통신 응
용 프로그램을 구축 가능

N E W !
워크플로
Step Functions
사진 업로드
이미지
리사이즈
메타데이터
추출
얼굴
인식
데이터베이스 저장
병 렬 기 능 실 행 시
Start
E n d
코드 작성 없이 AWS 서비스 바로 연동 가능
Step Functions
API Connectors
Amazon ECS AWS Fargate
Amazon
DynamoDB
Amazon SNS
AWS Batch
Amazon SQS
AWS Glue
Amazon
SageMaker
+

N E W !
Amazon Managed
Streaming for Kafka 완전 호환 - 코드 변경 없이 Kafka 응용
프로그램 실행 가능
고 가용성 클러스터 관리는 AWS가 관리
(별도 Zookeeper 노드 설정 불필요)
패치에 대해 롤링 업그레이드로 가용성
유지 가능 (3AZ에 복제)
WorkFlow
비동기 처리를 위한 메시징 큐 서버인
Apache Kafka 매니지드 서비스

AWS Cloud9
AWS Toolkit for
PyCharm
AWS Toolkit for
IntelliJ
AWS Toolkit for
VS Code
AWS Lambda layers
AWS Nested apps
Websocket support for
API Gateway
ALB support for
Lambda
Step Functions API
Connectors
Amazon Managed
Streaming for Kafka
빠르게 서버리스 애플리케이션 개발 가능
IDE 지원 언어 워크플로프로그래밍 모델

서버리스 및 컨테이너 구현을 위한 두가지 접근법
컨테이너 방식
단일 인스턴스 보다
보안이 어려움
VM 방식
개별 VM의 경우 리소스
효율화가 어려움

N E W !
높은 보안성의
VM 기능
https://firecracker-microvm.github.io/

Firecracker 아키텍처 및 이점
• Firecracker 마이크로 VM은 KVM과 동일한 보안 기능 제공
• 불필요한 기능을 줄이고 빠른 시작 시간을 위해 설계
• 컨테이너 및 람다 함수 최적화로 125ms 이내
• 초당 150개 부터 수 천개까지 동시에 VM 생성 가능

다양한 스토리지 선택 옵션
Provisioned
IOPS SSD
General
Purpose SSD
Throughput-
Optimized HDD Cold HDD
Amazon Data
Lifecycle Manager
Elastic Volumes
블 록 스 토 리 지
THE MOST VOLUME OPTIONS (4)
객 체 스 토 리 지
STORAGE CLASSES (4)
Amazon S3
One Zone-IA
Amazon S3
Standard
Amazon
S3 Glacier
Amazon S3
Standard-IA
파 일 시 스 템
Amazon
EFS
Amazon EFS
Standard
STORAGE CLASSES (2)
데 이 터 전 송
AWS Direct
Connect
AWS
Snowball
AWS Snowball
Edge
AWS
Snowmobile
AWS Storage
Gateway
Amazon Kinesis
Firehose
Amazon
Kinesis Data
Streams
Amazon
Kinesis Video
Streams
Amazon S3
Transfer
Acceleration
DATA TRANSFER OPTIONS (6)

N E W !
S3 Intelligent-
Tiering
인공지능으로 파일 사용 빈도에 따라
자동으로 클래스 조정 및 비용 최적화
EFS Infrequent
Access
사용 빈도가 낮은 데이터를위한
저가형 스토리지
EFS의 고가용성 및 높은 내구성 유지
하면서 비용 85%까지 절감 가능
EFS IA와 함께 EFS 생명 주기를 도입
하여 자동 전환 가능
Amazon S3
Standard
Amazon S3
Standard-IA

N E W !
S3 Glacier Deep Archive
백업 테입 관리
불필요 및 장기
보관에 적합
기존 Glacier 보다
¼ 낮은 가격
99.999999999 내구성
지원 및 3AZ에 보관
수 시간내 복구
옵션 제공
클라우드에서 사용 가능한 최저 비용 스토리지 일반적인 백업 테입 보다 낮음

S3 스토리지 클래스 비교표

Public Cloud에서
Windows 워크로드 사용량은?

N E W !
Amazon FSx
for Windows
File Server
윈도 파일 시스템과 완벽 호환성 제공
관리할 하드웨어 또는 소프트웨어 없음
PCI-DSS, ISO 및 HIPAA를 포함한
표준 규정 준수
수 밀리 초 미만의 대기 시간으로 최대
수십 GB/s 처리량
(Windows AD 액세스 제어 및 윈도 탐색
환경과 호환성)
네이티브 Windows 파일 서버를 기반으로
매니지드 Windows 파일 시스템

N E W !
높은 처리량, 낮은 대기 시간,
100GB/s 및 수백만 IOPS 지원
Amazon S3와의 완벽한 통합되어
분석 전/후 데이터 보관 가능
PCI-DSS, ISO 및 HIPAA 등 표준
규정 준수 가능
고성능 연산에 집약적 작업 부하를
매니지드 파일 시스템
Amazon FSx
for Lustre
러스터(Lustre)는 병렬 분산 파일 시스템으로서 주로 슈퍼컴퓨터 같은 고성능 컴퓨팅의
대용량 파일 시스템으로 사용. 러스터(Lustre)의 이름은 Linux와 cluster의 합성어임

N E W !
AWS DataSync AWS Transfer
for SFTP
데이터 이동을 자동 및 가속화하는
온라인 전송 서비스
완전 관리형 SFTP 기반 파일 전송 서비스
재해 복구 옵션으로 AWS에
복제를 통한 제공 가능
로컬 VMWare 에이전트와
S3를 NFS 방식으로 연결
10Gbps의 속도로 온-프레미스와
데이터 동기화 (빠른 이동 가능)
1 2 3

객 체 스 토 리 지
STORAGE CLASSES (6)
Amazon S3
One Zone-IA
Amazon S3
Standard
Amazon S3
Intelligent-Tiering
Amazon S3
Glacier
Amazon S3
Standard-IA
Amazon S3 Glacier
Deep Archive
파 일 시 스 템
THE MOST CLOUD NATIVE SYSTEMS (5)
Amazon
EFS
Amazon FSx for
Windows File
Server
Amazon FSx
for Lustre
Amazon EFS
Standard
Amazon EFS
IA
STORAGE CLASSES (3)
NEW
NEW NEW NEW
NEW
NEW
데 이 터 전 송
AWS Direct
Connect
AWS
Snowball
AWS Snowball
Edge
AWS
Snowmobile
AWS Storage
Gateway
Amazon Kinesis
Firehose
Amazon
Kinesis Data
Streams
Amazon
Kinesis Video
Streams
Amazon S3
Transfer
Acceleration
AWS
DataSync
AWS Transfer
for SFTP
NEW
“I want it all, and I want it now.”
Provisioned
IOPS SSD
General
Purpose SSD
Throughput-
Optimized HDD Cold HDD
Amazon Data
Lifecycle Manager
Elastic Volumes
블 록 스 토 리 지
THE MOST VOLUME OPTIONS (4)
DATA TRANSFER OPTIONS (8)

데이터베이스 자유 Freedom 를 위한 시점

Amazon Aurora – 최초 클라우드 네이티브 DB
Amazon
Aurora
NEW
Global Database (글로벌 데이터베이스)

Amazon Aurora – 글로벌 데이터베이스 NEW

Amazon Dynamo DB – 두가지 피드백
HIGH-SCALE APPLICATIONS
읽기 및 쓰기 처리량 용량 예측이
어렵고, 스파크 트래픽이 발생했을
때 지연 시간이 발생할 수 있음.
BUSINESS APPLICATIONS
하나 이상의 테이블에서 여러
개의 별도 작업을 묶는 비즈니스
로직을 구현해야 하는 경우

N E W !
DynamoDB
On-Demand
DynamoDB
Transactions
읽기/쓰기 용량 계획 및 관리 불필요 복잡한 비지니스 로직 구현 가능
트랜잭션을 지원하는 최초의
비관계형 DB로서 엔터프라이즈
애플리케이션 지원 가능
트래픽에 따라 자동으로 용량이
조절되며, 사용한 용량 만큼만
과금하여 비용 효율적임

기존 시계열 데이터베이스관계형 데이터베이스
확장의 어려움
엔터프라이즈 급 가용성 및 안정성을
위한 수동 작업 필요
제한된 데이터 수명주기 관리 기능
시계열 데이터 처리에 부자연 스러움
빠르게 바뀌는 시계열 데이터
스키마 유연상 부족
시계열(Time-series) 데이터에
대한 처리의 어려움
근사치 보정 및 계산과 같은
시계열 데이터 처리 기능이 부족함
1
2
3
클릭 스트림
IoT 센서 데이터
데브옵스 로그 데이터

N E W !
관계형 데이터베이스 보다 1,000 배
더 빠르고 비용은 1/10
매일 수조개의 데이터를 저장 및
처리 가능
서버리스와 인프라 관리 필요 없음
시계열 분석 기능 내장 (interpolation,
smoothing, approximation)
쿼리 성능의 여러 단계별 개선
빠르게 확장 가능한 매니지드
시계열 데이터베이스 서비스
Amazon
Timestream

Blockchain에 대한 AWS 생각은?

분산화된 트랜잭션 처리2

DMV
차량 제목 기록
추적
제조사
반품된 제품의 유통
경로 추적
HR & 급여
개인 정보 변경
사항 추적
헬스 케어
병원 장비 재고 확인
및 추적
블록체인에 대한 AWS 고객 활용 사례
관계형 데이터
베이스
기존 Blockchain
프레임웍
차선책을 이용한
문제 해결?
프라이빗 블록 체인을
위한 원장 데이터 관리
1

모기지 업체
신디케이트 대출 처리
소상공인
공급 업체 및 유통
업체와의 거래
판매업
고객 보상 업무 효율화
금융 기관
P2p 지불 서비스
Blockchain 프레임웍의 문제
확장성 이슈초기 설정 어려움
관리상의
어려움
높은 관리
비용
분산화된 트랜잭션 처리2프라이빗 블록 체인을
위한 원장 데이터 관리
1
블록체인에 대한 AWS 고객 활용 사례

두 가지 요구 사항에 대한
해결 방법은?

N E W !
암호 기반 입증
모든 변경 사항은 암호화 방식으로
연결도어 검증 가능
투명성 제공
전체 데이터 계보에 대한 완전한 가시성
변경 불가- Immutable
추가만 가능, 변경 불가능한 저널은
모든 변경 사항 기록 및 추적
높은 가용성 제공
자동 스케일 업/다운 제공
손쉬운 사용 방법
친숙한 SQL 질의문 사용 가능
빠른 속도 제공
2-3 배 더 많은 트랜잭션 실행
신뢰할 수 있는 중앙에서 운영하는 투명한 암호로 입증 가능한
불변 트랜잭션 로그를 제공하는 매니지드 원장 데이터베이스
Amazon Quantum Ledger Database

N E W !
확장 가능한 블록 체인 네트워크 생성 및 관리 서비스
Amazon Managed Blockchain
Hyperledger Fabric 또는
Ethereum 중에서 선택 가능
몇 번의 클릭만으로 블록 체인
네트워크 생성 및 간단한 API
호출로 관리
수백만 건의 트랜잭션을 실행하는
수천 개의 애플리케이션 지원 가능
추가 분석을 위해 데이터를
QLDB로 이동 가능

진정한 데이터베이스 자유를 위한 시점

증가하는 AWS 고객의 인공 지능 기반 서비스 구현
10,000s
활성 고객 수
2x고객 사례

증가하는 AWS 고객의 인공 지능 기반 서비스 구현

모든 개발자를 위한 인공 지능 도구 제공

FRAMEWORKS
INFRASTRUCTURE
P3 P3dn
INTERFACES
멀티 GPU 환경에서
모델 학습 성능 향상 및
높은 확장성 제공
100 Gbps 네트워킹
64 GB GPU 메모리
768 RAM (시스템 메모리)
P3dn.24xl
타 사 대비 3 배 빠른 네트워크 처리량
타 사 대비 2배 많은 GPU 인스턴스 메모리 제공
타 사 대비 100GB 더 많은 시스템 메모리 제공
“85%의 Tensorflow 프로젝트가
AWS 기반으로 구축
Nucleus Research, TensorFlow on AWS, 28 November 2018,
Analyst: Rebecca Wettemann
인프라 및 프레임워크 제공
NEW

TensorFlow
학습 속도
30m
학습 속도
(Mountain View)
ResNet50 만
아직 베타로만 제공
되는 독자 하드웨어
14m
학습 속도
(Seattle)
ResNet50, 컨벌루션 뉴럴 네트워크
(CNN, 이미지 처리용), 반복 신경
네트워크 (RNN, 언어 처리 용)
글로벌 가용성이
보장되는 P3 인스턴스
가장 빠른 학습
속도 제공
TensorFlow
확장성
65%
기존 Tensorflow
256 GPUs하에서
성능 효율성 지표
90%
AWS-최적화
Tensorflow
256 GPUs하에서
성능 효율성 지표
NEW
TensorFlow를 생각해 본다!

추론 작업이 전체 기계 학습
비용의 대부분을 차지함 Inference
Training
Infrastructure
costs
추론 Inference 작업은?
Machine Learning 모델 학습은 쉽고,
빠르며, 비용 효과적으로 가능하지만…

추론 비효율의 두 가지 주요 요인 :
복잡성 및 비용
다양한 추론
케이스가 존재
탄력적인 추론이
가능해야 함

N E W !
EC2
Instance
EC2
Instance
EC2
Instance
GPU
훨씬 저렴한 비용으로 신속한 추론을 위해 Amazon EC2 인스턴스에 GPU 가속 기능 추가 (최대 75 % 절감)
Amazon
Elastic Inference
P 3 . 8 X L
P 3 P 3
P 3 P 3
Amazon
Elastic Inference
36 TOPS GPU
M5.large
Amazon
Elastic Inference
Before After

Starting at
1 TFLOPS
다양한 인스턴스
타입 활용 가능
간단한 음성 인식 및
자연어 처리 모델
Up to
32 TFLOPS
추천 엔진 또는 사기
탐지 모델
VPC 내부의 추론
탄력성 보장
360,000ResNet-50
컴퓨터 비전 사례
딥러능 모델
추론에 필요한 시간당
이미지 숫자
$0.22
시간당 비용
75%
기존 대비
비용 절감
L O W E S T C O S T
A V A I L A B L E
Elastic Inference - 확장성 및 비용

전체 GPU가 필요하거나 대기
시간에 민감한 작업의 경우,

N E W !
고성능 처리량
낮은 대기시간
스 백 TOPS
다양한
데이터 타입
다양한
ML 프레임워크
INT8, FP16,
mixed precision
TensorFlow, MXNet,
PyTorch, Caffe2, ONNX
EC2 인스턴스 지원
Amazon SageMaker 지원
Amazon Elastic Inference 지원
고성능 기계 학습 추론을 위한 AWS에서 설계 한 맞춤형 칩셋
AWS Inferentia

ML 서비스

훈련 데이터
수집 및 저장
최적화된
기계학습
알고리즘 선택
데이터 훈련을
위한 인프라
설정
훈련 및 학습
모델 튜닝
(계속 반복)
최적화한 모델
배포
모델 기반
서비스 확장
및 운영
기계학습은 개발자에게 여전히
복잡하고 어렵다?!

Amazon SageMaker
손쉬운 기계 학습 모델 생성, 훈련 및 서비스 배포 완전 관리 서비스
완전 관리 및
자동 스케일링
원클릭 배포
Jupyter
Notebook
기반 서비스
고성능
알고리즘
미리 제공
원클릭
데이터 훈련
Hyper-
parameter
최적화
훈련 데이터 수집
및 저장
최적화된 기계학습
알고리즘 선택
데이터 훈련을 위한
인프라 설정
훈련 및 학습 모델
튜닝 (계속 반복)
최적화한 모델 배포 모델 기반 서비스
확장 및 운영

Amazon SageMaker -1년만에 수천개 고객이 사용 중

그리고, 또한 고객이 원하는 것들
“좀 더 세부적이고 깊이 있는 기능들”

“좋은 학습 모델은 고품질의
훈련 데이터가 필요합니다”
Jupyter
Notebook
기반 서비스
및 저장

STATIONARY CAR
STATIONARY CAR
MOVING
CARPEDESTRIAN
STOP
SIGN
DIRECTION
SIGN
STOP
SIGN
TRAFFIC
SIGNALS
TRAFFIC
SIGNALS
STATIONARY
VEGETATION
STATIONARY ROAD
STATIONARY
BUILDING
MOVING
CAR
PAVEMENT“좋은 학습 모델은 고품질의
훈련 데이터가 필요합니다”
Jupyter
Notebook
기반 서비스
및 저장

N E W !
사람에 의한
라벨링 작업
S3 데이터 저장소
자동 라벨링
훈련 데이터
생성
워크 플로 구성
Mechanical Turk
자체 직원 활용
서드 파티 벤더
학습 모델
실행
>80% 신뢰도
<80% 신뢰도
기계 학습 기법을 응용하여 정확한 훈련 데이터 세트 구축 가능
데이터 라벨링 비용을 최대 70 %까지 절감
Amazon SageMaker - Ground Truth

Amazon SageMaker: 다양한 학습 알고리즘 제공
10배 이상 빠른
성능 제공
K-Means Clustering
Principal Component Analysis
Neural Topic Modelling
Factorization Machines
Linear Learner (Regression)
BlazingText
Reinforcement Learning
XGBoost
Topic Modeling (LDA)
Image Classification
Seq2Seq
Linear Learner (Classification)
DeepAR Forecasting
A L G O R I T H M S
Amazon SageMaker
최적화된 모델
SageMaker 출시 이후
추가 알고리즘 40% 증가
고성능
알고리즘
미리 제공
최적화된 기계학습
알고리즘 선택

N E W !
Natural Language Processing
Computer Vision
Speech Recognition
Text Clustering
Text Generation
Text Classification
Grammar and Parsing
Named Entity Recognition
Text to Speech
Handwriting Recognition
Object Detection in Images
3D Images
Text OCR
Video Classification
Speaker Identification
RankingRegression
Anomaly Detection
AWS Marketplace
검색 가능
원 클릭으로
사용 신청
SageMake에서
바로 사용 가능
Amazon SageMaker에 직접 활용 할 수 있는
수백 가지 알고리즘 및 모델 제공
AWS Marketplace
for Machine Learning
2. AWS Marketplace에 등록
3. SageMaker에서 자동 테스트1. 알고리즘, 모델 및 설정 패키징
4. AWS Marketplace에 등재
A W S
M a r k e t p l a c e 에
서 알 고 리 즘 및
모 델 판 매 하 기

N E W !
Amazon SageMaker Neo
딥러닝 오픈 소스 컴퍼일러 및 런타임
기존 프레임워크 크기의 1/10 사이즈로 2배 이상 성능 제공

기계 학습
모델의 정교함
좋 은 성 능 을 위 해 요 구 되 는 데 이 터 량
강화 학습
Reinforcement Learning (RL)
e.g. 보상을 통한 학습 - 게임 실행, 자율 주행 등
최근 기계 학습의 발전 – 강화 학습의 대두

강화 학습의 작동 원리
팩맨 게임에서 학습 알고리즘 테스트
가능한 높은 점수를 얻기 위해 게임 플레이
높은 점수를 얻으면 높은 보상
그렇지 않아도 낮은 페널티를 제공
자동적으로 고급 기술을 습득

N E W !
다양한 강화
학습 알고리즘
지원
TensorFlow, MXNet,
Intel Coach, Ray RL
지원
OpenGym을 통한
2D 및 3D
시뮬레이션 환경
Sumerian 및
RoboMaker로
시뮬레이션 연동
예제 노트북 및
튜토리얼 제공
SageMaker 기반 강화 학습 구축, 교육 및 배포 매니지드 서비스
Amazon SageMaker RL

어떻게 강화 학습을 테스트 해볼 수 있을까요?

N E W !
HD Video 카메라
위치 제어를 위한
자이로스코프 센서
속도 측정을 위한
가속 센서
자동차 주행을 위한
대용량 배터리
듀얼 코어
Intel Atom® 프로세서
다 각도로
제어 가능한 바퀴
도로 주행 영상 캠쳐
강화 학습을 통해 자율 주행이 가능한 1/18 크기의 모형 자동차
AMAZON.COM에서 선 주문 가능
AWS DeepRacer

AWS DeepRacer: 동작 원리
가상 차량 및
트랙에서 3D
시뮬레이션
강화 학습을
통한 보상 제공
모델 생성
가상 및 현실 트랙에서 테스트 및 개선
AWS DeepRacer League
누구나 참여할 수 있는
세계 최초의 가상 자율 레이싱 리그
AWS Summit에서
리그전 개최
지역 예선 우승자는
re:Invent 2019에서 결승

AI 서비스

개인화 및 추천에 대한 좋은 알고리즘 부재
음악 추천 서비스
앨범, 아티스트, 노래 등
영화 추천 서비스
배우, 감독, 장르
상품 추천 서비스
가격, 카테고리, 리뷰
문서 추천 서비스
뉴스, 주제, 분류

N E W !
앱에서 데이터
스트리밍
페이지뷰, 클릭
데이터 등
인벤토리
문서, 제품, 영상,
리뷰 등
개인 정보
(선택 사항)
데이터 로딩
(EMR Cluster)
데이터
조사
데이터
특성 파악
알고리즘
선택
하이퍼파라미터
설정
모델 학습
모델
최적화
모델
호스팅
특성 업데이트
실시간
캐싱 맞춤형 개인화 및
추천 API 제공
A m a z o n P e r s o n a l i z e 에 의 한 매 니 지 드 서 비 스 운 영
Amazon Personalize
나이, 사는 곳 등
Amazon.com에서 사용 된 것과 동일한 기술을
기반으로하는 실시간 개인화 및 추천 서비스
Amazon Personalize

비지니스에서 불확실한 예측의 위험성
TIME
매출
예측
매출

N E W !
Amazon Forecast
모든 과거의 시계열
데이터 활용 가능
SAP 및 Oracle
Supply Chain과
통합 가능
3번의 클릭으로
맟춤형API 제공
50% 이상의
정확도 제공
직접 구축시
보다 1/10 비용
Amazon Timestream
통합 가능
구매 예측 여행 수요 측정 AWS 사용량
매출 예측 웹 사이트 트래픽 광고 수요
주요 활용 사례:
Amazon.com에서 사용 된 것과 동일한 기술을 기반으로 하는
높은 정확성의 시계열 예측 서비스

과거 데이터 셋
상품, 공급망
정보, 매출 등
맞춤형 예측
API 제공
데이터
조사
특성
파악
8개 알고리즘
중 선택
하이퍼파라미터
선택
모델
호스팅
데이터
로딩
모델
학습
모델
최적화
관련 데이터 셋
날씨, 특가, 상품
정보 등
Amazon Forecast
Amazon Forecast: 기계 학습 기반 시계열 예측 API 서비스
예 – 상품 판매 예측이 필요한 경우
A m a z o n F o r e c a s t 에 의 한 매 니 지 드 서 비 스 운 영

문서 내 텍스트 정보 추출 필요성 증가
수동 데이터 입력
규칙 및 템플릿 기반 추출
광학 문자 인식 (OCR)
어떤 문서 형식이든 식별 가능 필요
해당 문서에서 정확하게 텍스트를 추출 필요
문서 형식이 가변적이 되면 정확한 추출 불확실

N E W !
문서에서 텍스트와 데이터를 의미적으로 쉽게 추출 할 수 있는 OCR ++서비스
Amazon Textract

AI + 분석 + 스토리지 통합 = 요구사항 맞춤 지원

스토리지
설정
1
데이터
이동
2
데이터 클린징
및 준비
3
보안 및 규정 준수용
정책 구성 및 시행
4
빅 데이터 분석을
위해 데이터
액세스 제어
5
인공 지능 및 분석을 위한
데이터 레이크(Data Lake) 구성 및 관리?

N E W !
여러 서비스에 걸쳐
보안 정책 적용
데이터 인사이트
수집 및 관리
신속하게 데이터 이동,
저장, 카탈로그 정리
며칠 내에 안전한 데이터 레이크를 구축할 수 있는 서비스
Amazon Lake Formation

보안(Security) – AWS 클라우드의 최우선 순위

N E W !
AWS 클라우드 환경 전반에서 보안
및 규정 준수를 중앙에서 관리 가능
AWS
Security Hub
우선 순위가 높은
순위로 요약 보기
산업 표준과의 편차를
탐지하기 위해 규정
준수 여부 자동 검사
알림에 대한 통합 관리를
통한 시간 절약
지속적인 가시성을위한 대시 보드
정책을 원활하게 집행하기 위한
가드레일 구성
접근 제어에 대한 모범 사례를
가진 랜딩 존 구성 가능
AWS Control
Tower
다중 계정 환경 또는 외부 접근 설정
제어를 위한 안전하고 효과적인 접근 창구

AWS의 하이브리드 환경 구축 옵션
온 프레미 환경과
AWS와 통합
VMware 소프트웨어 및
도구 AWS 기반 운영
온-프레미스
환경에서도
AWS 서비스를
유연하게 쓸 수
없을까?
엣지에서의
클라우드 연결
AWS Storage
Gateway
Amazon
VPC
AWS Direct
Connect
AWS IAM AWS Directory
Service
AWS
OpsWorks
AWS
CodeDeploy
VMware Cloud
on AWS
Snowball Edge
Compute-
Optimized
AWS Systems
Manager
Amazon RDS on VMware
NEW
NEW

N E W !
AWS Outposts
VMware Cloud
on AWS 소프트웨어를
로컬에서 실행 가능
AWS 제공 하드웨어 랙 제공
AWS에서 사용하는 것과 똑같은
서비스를 온-프레미스에서 구동 가능
OPTION 1 OPTION 2
AWS 서비스를 기존 온-프레미스 환경에서 구동할 수 있는 하드웨어 운영 서비스 제공
EC2 인스턴스와 EBS 볼
륨을 AWS 콘솔 및 API로
로컬에서 실행 가능

So, Are you Well-Architected?

Well-Architected
프로그램 시작
2012 2013
AWS SA 리뷰 지원
2014
4개 부문 검증
2015
프레임워크 제공
20142016
운영 탁월성
부문 추가
2017
Serverless Lens
2018
IoT Lens
HPC Lens
APN Partners
https://aws.amazon.com/well-architected
부분별 백서 및 정보 제공
AWS WELL-ARCHITECTED
FRAMEWORK 기술 백서
무료 온라인 교육 제공

보안
2
운영 탁월성
1
신뢰성
3
비용 최적화
5
성능 향상
4
검토 과정 + ( 솔루션즈
아키텍트
컨설팅
파트너사
OR
)고객
기술 및 비지니스 팀

N E W !
AWS Well-Architected Tool
AWS Well-Architected 모범 사례를
활용한 아키텍처 측정 및 향상 도구
아키텍처 개선을 위한
작업 계획 구현
아키텍처가 발전함에
따라 최신 상태로 유지
모범 사례와 비교하여
작업 부하 검토

?

AWS IoT –광범위하고 세부적인 기능 제공
AWS 클라우드
디바이스 장치 관리 및
소프트웨어 업데이트
장치 보안 및
감사 도구
데이터 분석
산업용 장비의
데이터를 쉽게
수집 및 구성
NEW
IoT 센서 및
앱내 이벤트
감지 및
대응
NEW
시각적으로
IoT 앱 개발
NEW

4차 산업 혁명 - 로봇 산업에 진입하려면?
지능형 로봇 기능 개발을 위한
기계 학습 전문 기술 필요
지속적인 프로토타입
개발 및 변경 필요
로봇 기계 조립 및 작업
설정이 하루 이상 시간 소요
현실에 가까운 시뮬레이션
환경 구축에 한달 이상 걸림
애플리케이션 관리 시스템과
통합 하는데 시간 소요

N E W !
지능형 로봇 어플리케이션 손쉽게 개발, 테스트 및 배포 서비스
AWS RoboMaker
프로그램
개발 환경 지원
시뮬레이션
환경 지원
오픈 소스 로봇
운영체제 (ROS) 지원
로봇 장치
관리 및 업데이트

우주 산업은 어떤가요?
But
• 위성 지상국 건설 혹은 장기 임대 계약 체결. 데이터
전송 대역폭 구매 등 구축 및 유지에 고비용
• 확장을 위해서는 물리적 설비 투자 증설 네트워크
대역폭 및 스케줄링에 어려움
• 스타트업의 경우, 불투명한 비용 구조
우주 산업에 도전하는 기업 및 연구자의 증가
수 천개의 소형 위성이 운용 중이거나 발사 예정

N E W !
인공 위성 제어 및 데이터 송수신을 위한 완전 관리
서비스로서 우주 스타트업 창업 비용 획기적 절감 가능
AWS Ground Station
위성 안테나를 통해 저궤도
(LEO) 및 중궤도(MEO) 소형
인공 위성 제어가능
위성 연결 채널 예약을 통해
동시에 S-band, X-band and
UHF 다운링크 지원
전송 받은 위성 데이터를
안전한 VPC 내에서 다양한
AWS 분석 서비스 활용 가능

그 외에도 다양한 신규 기능 발표를 참고하세요!
https://aws.amazon.com/ko/blogs/korea

Go Build!
이제 무엇이든 만드실 수 있습니다!

Thank you!
윤석찬
AWS 테크 에반젤리스트
@channyun

AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

Similar to AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트 (20)

More from Amazon Web Services Korea

More from Amazon Web Services Korea (20)

AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트