SlideShare a Scribd company logo
1 of 59
Download to read offline
Big Data e Computação em
     Nuvem na AWS

José Papo
AWS Tech Evangelist
@josepapo
Onde se vê Big Data
                                                                                Marketing e
   Mídia/                                          Instituições                   Jogos
             Óleo e Gás     Varejo      Telecom                   Segurança
Propaganda                                         Financeiras                  (sobretudo
                                                                                  social)


                                                                                  Analise
                                                                   Anti-virus    Comporta-
 Anuncios                                           Simulações                    mental
                           Recomen-
                            dações                   de Monte
 Dirigidos                                             Carlo
                                        Cobrança

                                         Log de
               Análise                                             Detecção      Análise de
                                        Ligações
               Sismica                                            de Fraudes       Uso

                                        Uso dos
 Processa-                              Produtos
 mento de                  Análise de               Análise de
  vídeos e                 Transações                Riscos       Reconheci-
  imagens                                                          mento de
                                                                                  Métricas
                                                                   Imagens       “In-game”
Coleta e Storage




  Processamento e ETL




Buscas e Machine Learning




 Visualização e Relatórios
Coleta e Storage




  Processamento e ETL




Buscas e Machine Learning




 Visualização e Relatórios
Relacional   NoSQL
Como Cloud facilita
 Coleta e Storage?
Storage Elástico no Amazon S3
                                                                        1
                                                                      Trilhão
                                                        762 Bilhões




                                          262 Bilhões


                            102 Bilhões
  14 Bilhões   40 Bilhões

     Q4 2007      Q4 2008      Q4 2009       Q4 2010        Q4 2011    Q2 2012
288 servidores com Cassandra
        1.100.000 transações / segundo

     41 dólares / hora
                                   (Instâncias Reservadas)


Benchmarking Cassandra Scalability on AWS - Over a million writes per second
DynamoDB é um Banco de
 Dados NoSQL “as a service”
 sem complexidades
Sirva níveis gigantescos de tráfego e requisições
Armazene e recupere qualquer quantidade de dados
Custos mínimos de administração
Sem instalações de software

Não é necessário configurar clusters
Coleta e Storage




  Processamento e ETL




Buscas e Machine Learning




 Visualização e Relatórios
"Hadoop é um storage confiável e um sistema analítico"




               HDFS                MapReduce
Como Cloud facilita
Processamento e ETL?
Elasticidade



                               Data Warehouse
                               (Processo Batch)
 Data Warehouse                                                Data Warehouse
    (Estável)                                                     (Estável)

                                                    Diminui
                   Aumenta                           para
                    para 25                            9
                  instancias                      instancias
Implantar um cluster hadoop é difícil




http://eddie.niese.net/20090313/dont-pity-incompetence/
+
Elastic MapReduce, DynamoDB e Hive




http://docs.amazonwebservices.com/ElasticMapReduce/latest/DeveloperGuide/EMRforDynamoDB.html
Coleta e Storage




  Processamento e ETL




Buscas e Machine Learning




 Visualização e Relatórios
Como Cloud facilita
 Buscas e Machine
    Learning?
Coleta e Storage




  Processamento e ETL




Buscas e Machine Learning




 Visualização e Relatórios
Como Cloud facilita
  Visualização e
   Relatórios?
Casos de utilização de
 Big Data na Nuvem
3 Horas
por $4828,85/hora
OFERTA GRATUITA!
 aws.amazon.com/pt/free
     awshub.com.br
OBRIGADO!
            aws.typepad.com/brasil
   slideshare.net/AmazonWebServicesLATAM

José Papo
AWS Tech Evangelist
@josepapo

More Related Content

Similar to Big Data e Computação em Nuvem na AWS: casos de uso e como a nuvem facilita

Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...
Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...
Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...Amazon Web Services LATAM
 
DevOps Tour SP 2019
DevOps Tour SP 2019DevOps Tour SP 2019
DevOps Tour SP 2019Edgar Silva
 
Construindo Data Lakes e Analytics na AWS - BDA301 - Sao Paulo Summit
Construindo Data Lakes e Analytics na AWS -  BDA301 - Sao Paulo SummitConstruindo Data Lakes e Analytics na AWS -  BDA301 - Sao Paulo Summit
Construindo Data Lakes e Analytics na AWS - BDA301 - Sao Paulo SummitAmazon Web Services
 
Utilizando Windows, .NET e produtos Microsoft na AWS
Utilizando Windows, .NET e produtos Microsoft na AWSUtilizando Windows, .NET e produtos Microsoft na AWS
Utilizando Windows, .NET e produtos Microsoft na AWSJose Papo, MSc
 
Mini Curso - Gestão de Infraestrutura de TI
Mini Curso - Gestão de Infraestrutura de TIMini Curso - Gestão de Infraestrutura de TI
Mini Curso - Gestão de Infraestrutura de TIPaulo Nascimento
 
Coisas interessantes para saber quando começar a processar dados em streaming
Coisas interessantes para saber quando começar a processar dados em streamingCoisas interessantes para saber quando começar a processar dados em streaming
Coisas interessantes para saber quando começar a processar dados em streamingThaisa Silva
 
TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...
TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...
TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...tdc-globalcode
 
AWS Initiate - AWS & IoT (Internet das Coisas) - Smart Cities
AWS Initiate - AWS & IoT (Internet das Coisas) - Smart CitiesAWS Initiate - AWS & IoT (Internet das Coisas) - Smart Cities
AWS Initiate - AWS & IoT (Internet das Coisas) - Smart CitiesAmazon Web Services LATAM
 
24HoP 2012 - E você, está preparado para a era BigData?
24HoP 2012 - E você, está preparado para a era BigData?24HoP 2012 - E você, está preparado para a era BigData?
24HoP 2012 - E você, está preparado para a era BigData?Diego Nogare
 
Introdução a Cloud Computing com Amazon Web Services
Introdução a Cloud Computing com Amazon Web ServicesIntrodução a Cloud Computing com Amazon Web Services
Introdução a Cloud Computing com Amazon Web ServicesJose Papo, MSc
 
Levando a Estratégia para as Nuvens v2.0
Levando a Estratégia para as Nuvens v2.0Levando a Estratégia para as Nuvens v2.0
Levando a Estratégia para as Nuvens v2.0AEA Brazil Chapter
 
NEC Brasil, T&T Solutions
NEC Brasil, T&T SolutionsNEC Brasil, T&T Solutions
NEC Brasil, T&T Solutionsdavisao
 
Apresentação netconsulting nov12
Apresentação netconsulting nov12Apresentação netconsulting nov12
Apresentação netconsulting nov12Evandro Alves
 
Arquitetura Microsoft.pptx
Arquitetura Microsoft.pptxArquitetura Microsoft.pptx
Arquitetura Microsoft.pptxmikasantana2
 
Conceitos básicos e aplicações dos sistemas de informações ivaldo
Conceitos básicos e aplicações dos sistemas de informações ivaldoConceitos básicos e aplicações dos sistemas de informações ivaldo
Conceitos básicos e aplicações dos sistemas de informações ivaldoIvaldo Santos Barbosa
 

Similar to Big Data e Computação em Nuvem na AWS: casos de uso e como a nuvem facilita (20)

Business Analytics - PATH 2012
Business Analytics - PATH 2012Business Analytics - PATH 2012
Business Analytics - PATH 2012
 
Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...
Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...
Como o Magazine Luiza inova suas operações utilizando as soluções de IoT e Bi...
 
Keynote AWS RoadShow Porto Alegre 2013
Keynote AWS RoadShow Porto Alegre 2013Keynote AWS RoadShow Porto Alegre 2013
Keynote AWS RoadShow Porto Alegre 2013
 
DevOps Tour SP 2019
DevOps Tour SP 2019DevOps Tour SP 2019
DevOps Tour SP 2019
 
Construindo Data Lakes e Analytics na AWS - BDA301 - Sao Paulo Summit
Construindo Data Lakes e Analytics na AWS -  BDA301 - Sao Paulo SummitConstruindo Data Lakes e Analytics na AWS -  BDA301 - Sao Paulo Summit
Construindo Data Lakes e Analytics na AWS - BDA301 - Sao Paulo Summit
 
Utilizando Windows, .NET e produtos Microsoft na AWS
Utilizando Windows, .NET e produtos Microsoft na AWSUtilizando Windows, .NET e produtos Microsoft na AWS
Utilizando Windows, .NET e produtos Microsoft na AWS
 
Mini Curso - Gestão de Infraestrutura de TI
Mini Curso - Gestão de Infraestrutura de TIMini Curso - Gestão de Infraestrutura de TI
Mini Curso - Gestão de Infraestrutura de TI
 
Coisas interessantes para saber quando começar a processar dados em streaming
Coisas interessantes para saber quando começar a processar dados em streamingCoisas interessantes para saber quando começar a processar dados em streaming
Coisas interessantes para saber quando começar a processar dados em streaming
 
TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...
TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...
TDC2018SP | Trilha BigData - O que nao te falam sobre ir de uma pipeline de d...
 
BANCO DE DADOS
BANCO DE DADOSBANCO DE DADOS
BANCO DE DADOS
 
AWS Initiate - AWS & IoT (Internet das Coisas) - Smart Cities
AWS Initiate - AWS & IoT (Internet das Coisas) - Smart CitiesAWS Initiate - AWS & IoT (Internet das Coisas) - Smart Cities
AWS Initiate - AWS & IoT (Internet das Coisas) - Smart Cities
 
Keynote AWS RoadShow Belo Horizonte 2013
Keynote AWS RoadShow Belo Horizonte 2013Keynote AWS RoadShow Belo Horizonte 2013
Keynote AWS RoadShow Belo Horizonte 2013
 
24HoP 2012 - E você, está preparado para a era BigData?
24HoP 2012 - E você, está preparado para a era BigData?24HoP 2012 - E você, está preparado para a era BigData?
24HoP 2012 - E você, está preparado para a era BigData?
 
Introdução a Cloud Computing com Amazon Web Services
Introdução a Cloud Computing com Amazon Web ServicesIntrodução a Cloud Computing com Amazon Web Services
Introdução a Cloud Computing com Amazon Web Services
 
Levando a Estratégia para as Nuvens v2.0
Levando a Estratégia para as Nuvens v2.0Levando a Estratégia para as Nuvens v2.0
Levando a Estratégia para as Nuvens v2.0
 
NEC Brasil, T&T Solutions
NEC Brasil, T&T SolutionsNEC Brasil, T&T Solutions
NEC Brasil, T&T Solutions
 
Apresentação netconsulting nov12
Apresentação netconsulting nov12Apresentação netconsulting nov12
Apresentação netconsulting nov12
 
Arquitetura Microsoft.pptx
Arquitetura Microsoft.pptxArquitetura Microsoft.pptx
Arquitetura Microsoft.pptx
 
Bigadata casese opotunidades
Bigadata casese opotunidadesBigadata casese opotunidades
Bigadata casese opotunidades
 
Conceitos básicos e aplicações dos sistemas de informações ivaldo
Conceitos básicos e aplicações dos sistemas de informações ivaldoConceitos básicos e aplicações dos sistemas de informações ivaldo
Conceitos básicos e aplicações dos sistemas de informações ivaldo
 

More from Amazon Web Services LATAM

AWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvemAWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvemAmazon Web Services LATAM
 
AWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e BackupAWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e BackupAmazon Web Services LATAM
 
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.Amazon Web Services LATAM
 
AWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvemAWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvemAmazon Web Services LATAM
 
AWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e BackupAWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e BackupAmazon Web Services LATAM
 
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.Amazon Web Services LATAM
 
Automatice el proceso de entrega con CI/CD en AWS
Automatice el proceso de entrega con CI/CD en AWSAutomatice el proceso de entrega con CI/CD en AWS
Automatice el proceso de entrega con CI/CD en AWSAmazon Web Services LATAM
 
Automatize seu processo de entrega de software com CI/CD na AWS
Automatize seu processo de entrega de software com CI/CD na AWSAutomatize seu processo de entrega de software com CI/CD na AWS
Automatize seu processo de entrega de software com CI/CD na AWSAmazon Web Services LATAM
 
Ransomware: como recuperar os seus dados na nuvem AWS
Ransomware: como recuperar os seus dados na nuvem AWSRansomware: como recuperar os seus dados na nuvem AWS
Ransomware: como recuperar os seus dados na nuvem AWSAmazon Web Services LATAM
 
Ransomware: cómo recuperar sus datos en la nube de AWS
Ransomware: cómo recuperar sus datos en la nube de AWSRansomware: cómo recuperar sus datos en la nube de AWS
Ransomware: cómo recuperar sus datos en la nube de AWSAmazon Web Services LATAM
 
Aprenda a migrar y transferir datos al usar la nube de AWS
Aprenda a migrar y transferir datos al usar la nube de AWSAprenda a migrar y transferir datos al usar la nube de AWS
Aprenda a migrar y transferir datos al usar la nube de AWSAmazon Web Services LATAM
 
Aprenda como migrar e transferir dados ao utilizar a nuvem da AWS
Aprenda como migrar e transferir dados ao utilizar a nuvem da AWSAprenda como migrar e transferir dados ao utilizar a nuvem da AWS
Aprenda como migrar e transferir dados ao utilizar a nuvem da AWSAmazon Web Services LATAM
 
Cómo mover a un almacenamiento de archivos administrados
Cómo mover a un almacenamiento de archivos administradosCómo mover a un almacenamiento de archivos administrados
Cómo mover a un almacenamiento de archivos administradosAmazon Web Services LATAM
 
Os benefícios de migrar seus workloads de Big Data para a AWS
Os benefícios de migrar seus workloads de Big Data para a AWSOs benefícios de migrar seus workloads de Big Data para a AWS
Os benefícios de migrar seus workloads de Big Data para a AWSAmazon Web Services LATAM
 

More from Amazon Web Services LATAM (20)

AWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvemAWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvem
 
AWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e BackupAWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e Backup
 
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
 
AWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvemAWS para terceiro setor - Sessão 1 - Introdução à nuvem
AWS para terceiro setor - Sessão 1 - Introdução à nuvem
 
AWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e BackupAWS para terceiro setor - Sessão 2 - Armazenamento e Backup
AWS para terceiro setor - Sessão 2 - Armazenamento e Backup
 
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
AWS para terceiro setor - Sessão 3 - Protegendo seus dados.
 
Automatice el proceso de entrega con CI/CD en AWS
Automatice el proceso de entrega con CI/CD en AWSAutomatice el proceso de entrega con CI/CD en AWS
Automatice el proceso de entrega con CI/CD en AWS
 
Automatize seu processo de entrega de software com CI/CD na AWS
Automatize seu processo de entrega de software com CI/CD na AWSAutomatize seu processo de entrega de software com CI/CD na AWS
Automatize seu processo de entrega de software com CI/CD na AWS
 
Cómo empezar con Amazon EKS
Cómo empezar con Amazon EKSCómo empezar con Amazon EKS
Cómo empezar con Amazon EKS
 
Como começar com Amazon EKS
Como começar com Amazon EKSComo começar com Amazon EKS
Como começar com Amazon EKS
 
Ransomware: como recuperar os seus dados na nuvem AWS
Ransomware: como recuperar os seus dados na nuvem AWSRansomware: como recuperar os seus dados na nuvem AWS
Ransomware: como recuperar os seus dados na nuvem AWS
 
Ransomware: cómo recuperar sus datos en la nube de AWS
Ransomware: cómo recuperar sus datos en la nube de AWSRansomware: cómo recuperar sus datos en la nube de AWS
Ransomware: cómo recuperar sus datos en la nube de AWS
 
Ransomware: Estratégias de Mitigação
Ransomware: Estratégias de MitigaçãoRansomware: Estratégias de Mitigação
Ransomware: Estratégias de Mitigação
 
Ransomware: Estratégias de Mitigación
Ransomware: Estratégias de MitigaciónRansomware: Estratégias de Mitigación
Ransomware: Estratégias de Mitigación
 
Aprenda a migrar y transferir datos al usar la nube de AWS
Aprenda a migrar y transferir datos al usar la nube de AWSAprenda a migrar y transferir datos al usar la nube de AWS
Aprenda a migrar y transferir datos al usar la nube de AWS
 
Aprenda como migrar e transferir dados ao utilizar a nuvem da AWS
Aprenda como migrar e transferir dados ao utilizar a nuvem da AWSAprenda como migrar e transferir dados ao utilizar a nuvem da AWS
Aprenda como migrar e transferir dados ao utilizar a nuvem da AWS
 
Cómo mover a un almacenamiento de archivos administrados
Cómo mover a un almacenamiento de archivos administradosCómo mover a un almacenamiento de archivos administrados
Cómo mover a un almacenamiento de archivos administrados
 
Simplifique su BI con AWS
Simplifique su BI con AWSSimplifique su BI con AWS
Simplifique su BI con AWS
 
Simplifique o seu BI com a AWS
Simplifique o seu BI com a AWSSimplifique o seu BI com a AWS
Simplifique o seu BI com a AWS
 
Os benefícios de migrar seus workloads de Big Data para a AWS
Os benefícios de migrar seus workloads de Big Data para a AWSOs benefícios de migrar seus workloads de Big Data para a AWS
Os benefícios de migrar seus workloads de Big Data para a AWS
 

Big Data e Computação em Nuvem na AWS: casos de uso e como a nuvem facilita

  • 1. Big Data e Computação em Nuvem na AWS José Papo AWS Tech Evangelist @josepapo
  • 2.
  • 3. Onde se vê Big Data Marketing e Mídia/ Instituições Jogos Óleo e Gás Varejo Telecom Segurança Propaganda Financeiras (sobretudo social) Analise Anti-virus Comporta- Anuncios Simulações mental Recomen- dações de Monte Dirigidos Carlo Cobrança Log de Análise Detecção Análise de Ligações Sismica de Fraudes Uso Uso dos Processa- Produtos mento de Análise de Análise de vídeos e Transações Riscos Reconheci- imagens mento de Métricas Imagens “In-game”
  • 4. Coleta e Storage Processamento e ETL Buscas e Machine Learning Visualização e Relatórios
  • 5. Coleta e Storage Processamento e ETL Buscas e Machine Learning Visualização e Relatórios
  • 6.
  • 7. Relacional NoSQL
  • 8.
  • 9. Como Cloud facilita Coleta e Storage?
  • 10. Storage Elástico no Amazon S3 1 Trilhão 762 Bilhões 262 Bilhões 102 Bilhões 14 Bilhões 40 Bilhões Q4 2007 Q4 2008 Q4 2009 Q4 2010 Q4 2011 Q2 2012
  • 11. 288 servidores com Cassandra 1.100.000 transações / segundo 41 dólares / hora (Instâncias Reservadas) Benchmarking Cassandra Scalability on AWS - Over a million writes per second
  • 12. DynamoDB é um Banco de Dados NoSQL “as a service” sem complexidades Sirva níveis gigantescos de tráfego e requisições Armazene e recupere qualquer quantidade de dados Custos mínimos de administração Sem instalações de software Não é necessário configurar clusters
  • 13.
  • 14.
  • 15.
  • 16.
  • 17. Coleta e Storage Processamento e ETL Buscas e Machine Learning Visualização e Relatórios
  • 18. "Hadoop é um storage confiável e um sistema analítico" HDFS MapReduce
  • 19.
  • 20.
  • 22. Elasticidade Data Warehouse (Processo Batch) Data Warehouse Data Warehouse (Estável) (Estável) Diminui Aumenta para para 25 9 instancias instancias
  • 23. Implantar um cluster hadoop é difícil http://eddie.niese.net/20090313/dont-pity-incompetence/
  • 24. +
  • 25.
  • 26.
  • 27.
  • 28.
  • 29.
  • 30.
  • 31.
  • 32.
  • 33. Elastic MapReduce, DynamoDB e Hive http://docs.amazonwebservices.com/ElasticMapReduce/latest/DeveloperGuide/EMRforDynamoDB.html
  • 34.
  • 35. Coleta e Storage Processamento e ETL Buscas e Machine Learning Visualização e Relatórios
  • 36.
  • 37.
  • 38. Como Cloud facilita Buscas e Machine Learning?
  • 39.
  • 40.
  • 41.
  • 42. Coleta e Storage Processamento e ETL Buscas e Machine Learning Visualização e Relatórios
  • 43.
  • 44.
  • 45.
  • 46. Como Cloud facilita Visualização e Relatórios?
  • 47.
  • 48.
  • 49. Casos de utilização de Big Data na Nuvem
  • 50.
  • 51.
  • 52.
  • 53.
  • 54.
  • 56.
  • 58.
  • 59. OBRIGADO! aws.typepad.com/brasil slideshare.net/AmazonWebServicesLATAM José Papo AWS Tech Evangelist @josepapo