O documento discute como a AWS facilita o Big Data e a computação em nuvem. Ele explica como a AWS oferece armazenamento elástico na nuvem para coleta e armazenamento de dados, processamento flexível para ETL com instâncias elásticas, e serviços como DynamoDB e EMR para buscas, machine learning e visualização de relatórios de forma escalonável e sem manutenção.
Os benefícios de migrar seus workloads de Big Data para a AWS
Big Data e Computação em Nuvem na AWS: casos de uso e como a nuvem facilita
1. Big Data e Computação em
Nuvem na AWS
José Papo
AWS Tech Evangelist
@josepapo
2.
3. Onde se vê Big Data
Marketing e
Mídia/ Instituições Jogos
Óleo e Gás Varejo Telecom Segurança
Propaganda Financeiras (sobretudo
social)
Analise
Anti-virus Comporta-
Anuncios Simulações mental
Recomen-
dações de Monte
Dirigidos Carlo
Cobrança
Log de
Análise Detecção Análise de
Ligações
Sismica de Fraudes Uso
Uso dos
Processa- Produtos
mento de Análise de Análise de
vídeos e Transações Riscos Reconheci-
imagens mento de
Métricas
Imagens “In-game”
4. Coleta e Storage
Processamento e ETL
Buscas e Machine Learning
Visualização e Relatórios
5. Coleta e Storage
Processamento e ETL
Buscas e Machine Learning
Visualização e Relatórios
11. 288 servidores com Cassandra
1.100.000 transações / segundo
41 dólares / hora
(Instâncias Reservadas)
Benchmarking Cassandra Scalability on AWS - Over a million writes per second
12. DynamoDB é um Banco de
Dados NoSQL “as a service”
sem complexidades
Sirva níveis gigantescos de tráfego e requisições
Armazene e recupere qualquer quantidade de dados
Custos mínimos de administração
Sem instalações de software
Não é necessário configurar clusters
13.
14.
15.
16.
17. Coleta e Storage
Processamento e ETL
Buscas e Machine Learning
Visualização e Relatórios
18. "Hadoop é um storage confiável e um sistema analítico"
HDFS MapReduce
22. Elasticidade
Data Warehouse
(Processo Batch)
Data Warehouse Data Warehouse
(Estável) (Estável)
Diminui
Aumenta para
para 25 9
instancias instancias
23. Implantar um cluster hadoop é difícil
http://eddie.niese.net/20090313/dont-pity-incompetence/