SlideShare a Scribd company logo
1 of 47
Download to read offline
AWS를 활용하여 Daily Report 만들기
로그 수집부터 자동화된 분석까지
1
서버개발팀
정창제
changje@devsisters.com
AWS를 활용하여 Daily Report 만들기 2
쿠키런 소개
• 7,000만 누적 다운로드
• 최대 1,000만 DAU
• 한국, 일본, 태국 등 10여개국 다운로드 1위
• 38개국 Top10 다운로드
AWS를 활용하여 Daily Report 만들기 3
200~400GB
100TB
쿠키런의 하루 로그는
1년이면
차곡차곡 잘 쌓아야 한다
AWS를 활용하여 Daily Report 만들기
0. 로그 수집
4
Amazon S3
Game Servers
Redis
Elastic Search
Kibana
.
.
.
Logstash
.
.
.
AWS를 활용하여 Daily Report 만들기 5
차곡차곡 쌓여가는 로그 하지만 분석할 방법이 없다..?
200~400GB
100TB
쿠키런의 하루 로그는
1년이면
차곡차곡 잘 쌓아야 한다
AWS를 활용하여 Daily Report 만들기 6
최적의 분석시스템을 만들자!
차곡차곡 쌓여가는 로그 하지만 분석할 방법이 없다..?
200~400GB
100TB
쿠키런의 하루 로그는
1년이면
차곡차곡 잘 쌓아야 한다
AWS를 활용하여 Daily Report 만들기
1. 쉽고 빠르게 로그 분석하기
7
BREADCRUMB
AWS를 활용하여 Daily Report 만들기
1. 로그분석시스템 요구조건
- 하루 전 로그와 1년 전 로그를 동일하게!

→ 날짜별로 로그파일을 분리
8
AWS를 활용하여 Daily Report 만들기
- 하루 전 로그와 1년 전 로그를 동일하게!

→ 날짜별로 로그파일을 분리

- 특정 활동 및 특정 유저의 로그를 빠르게!

→ Action과 MemberID로 Index
9
1. 로그분석시스템 요구조건
AWS를 활용하여 Daily Report 만들기
1. 로그분석시스템 요구조건
- 하루 전 로그와 1년 전 로그를 동일하게!

→ 날짜별로 로그파일을 분리

- 특정 활동 및 특정 유저의 로그를 빠르게!

→ Action과 MemberID로 Index 

- 로컬 개발환경에서도 빠르게!

→ 유저 샘플링을 지원하자!
10
AWS를 활용하여 Daily Report 만들기
1. 로그 전처리
11
Logstash
Amazon S3
20분마다
업로드
2015-04-21T00.01.txt
2015-04-21T00.21.txt
2015-04-21T00.41.txt
2015-04-21T01.01.txt
2015-04-21T01.21.txt
2015-04-21T01.41.txt
…
2015-04-21T22.41.txt
2015-04-21T23.01.txt
2015-04-21T23.21.txt
2015-04-21T23.41.txt
2015-04-22T00.01.txt
AWS를 활용하여 Daily Report 만들기
1. 로그 전처리
12
Logstash
Amazon S3 Amazon S3
2015-04-21T00.01.txt
2015-04-21T00.21.txt
2015-04-21T00.41.txt
2015-04-21T01.01.txt
2015-04-21T01.21.txt
2015-04-21T01.41.txt
…
2015-04-21T22.41.txt
2015-04-21T23.01.txt
2015-04-21T23.21.txt
2015-04-21T23.41.txt
2015-04-22T00.01.txt
00.01.json
00.01.txt.sz
00.21.json
00.21.txt.sz
…
23.41.json
23.41.txt.sz
00.01.json
00.01.txt.sz
20분마다
업로드
정렬과
압축
AWS를 활용하여 Daily Report 만들기
1. 로그 전처리
13
Logstash
Amazon S3 Amazon S3 Amazon S3
일일
병합
2015-04-21T00.01.txt
2015-04-21T00.21.txt
2015-04-21T00.41.txt
2015-04-21T01.01.txt
2015-04-21T01.21.txt
2015-04-21T01.41.txt
…
2015-04-21T22.41.txt
2015-04-21T23.01.txt
2015-04-21T23.21.txt
2015-04-21T23.41.txt
2015-04-22T00.01.txt
index.json
gamelog.sz
00.01.json
00.01.txt.sz
00.21.json
00.21.txt.sz
…
23.41.json
23.41.txt.sz
00.01.json
00.01.txt.sz
정렬과
압축
20분마다
업로드
AWS를 활용하여 Daily Report 만들기
1. 로그 전처리
14
gamelog.sz
• 날짜로 분리
• Action, MemberID로 정렬
• 특정 활동 및 특정 유저의 로그를 빠르게 찾을 수 있도록
• 로컬 개발에서 샘플링하여 사용할 수 있도록 MemberID를 뒤집은 값을 키로 사용
• Block 단위 Snappy 압축
• Networt Latency ↓
• Snappy : CPU 사용량 ↓
• Splittable (Snappy Framing Format)
AWS를 활용하여 Daily Report 만들기
1. 로그 전처리
15
…},
{
"key_first": “<Action> <Reversed MemberID> <Time> <Hash>”,
"key_last": “<Action> <Reversed MemberID> <Time> <Hash>”,
"offset": 0,
"length": <Length>
}, …
• gamelog를 조회하기 위한 Metadata
index.json
AWS를 활용하여 Daily Report 만들기
1. 로그 전처리
16
[{
"key_first": “member/connect 00001”,
"key_last": “member/connect 000024”,
"offset": 0,
“length": 31243
}, {
"key_first": “member/connect 000025”,
"key_last": “member/disconnect 0003”,
"offset": 31244,
"length": 42347
}, {
"key_first": “member/disconnect 00031”,
"key_last": “game/startGame 00012”,
"offset": 73591,
"length": 49323
}]
index.jsongamelog.sz
member/connect
member/connect
member/connect
member/disconnect
game/startGame
member/disconnect
10000
240000
250000
3000
13000
00012
AWS를 활용하여 Daily Report 만들기
BREADCRUMB
1. 로그 분석
17
Amazon S3
EMR
index.json gamelog.sz output
by
2015-04-21T0
0.01.txt
00.01.json
00.01.txt.sz
https://github.com/twitter/scalding
AWS를 활용하여 Daily Report 만들기
1. 예제 - ActiveUser
18https://github.com/twitter/scalding
class ActiveUserCount(args : Args) extends Job(args) {

CookierunLog("member/connect", args("sampling"),

args("timeStart"), args("timeEnd"),

Tuple1("memberSeq"))

.groupBy(‘memberSeq){ _.take(1) }

.groupAll{ _.size }

.write(Csv(args("output")))

}
1/1000 샘플링시 1주일에 대해 로컬에서 15초
AWS를 활용하여 Daily Report 만들기 19
분석 시스템도 있는데...
로그도 쌓이고...
요청이 있을때만 비정기적으로 추출하는 통계...
AWS를 활용하여 Daily Report 만들기 20
분석 시스템도 있는데...
로그도 쌓이고...
요청이 있을때만 비정기적으로 추출하는 통계...
정기적인 통계가 필요하다!
AWS를 활용하여 Daily Report 만들기
2. 매일매일 데이터 받아보기
21
AWS를 활용하여 Daily Report 만들기
☐ 매일 아침 게임 통계를 받아보고 싶어요! 

☐ 지표들의 변화 추이를 보고 싶어요!

☐ 쿠키별 보유량이 알고 싶어요!
22
2. 매일매일 데이터 받아보기 - 목표
AWS를 활용하여 Daily Report 만들기
BREADCRUMB
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
23
Amazon S3
EMR
Powered by
LogsOutput
AWS를 활용하여 Daily Report 만들기
BREADCRUMB
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
24
Amazon S3
EMR
SES
boto
Powered by
LogsOutput
Result
cron
Send via E-Mail
Docker
RDS
INSERT / SELECT
AWS를 활용하여 Daily Report 만들기
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
25
AWS를 활용하여 Daily Report 만들기
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
26
Upload JAR
S3
JAR
BREADCRUMB
AWS를 활용하여 Daily Report 만들기
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
27
EMR
run_jobflow
BREADCRUMB
S3
JAR
AWS를 활용하여 Daily Report 만들기
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
28
EMR
BREADCRUMB
BREADCRUMB
S3
add_jobflow_steps
Logs Output
JAR
AWS를 활용하여 Daily Report 만들기
BREADCRUMB
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
29
Amazon S3
EMR
SES
boto
Powered by
LogsOutput
Result
cron
Send via E-Mail
Docker
RDS
INSERT / SELECT
AWS를 활용하여 Daily Report 만들기
2-1. 매일 아침 게임 통계를 받아보고 싶어요!
30
AWS를 활용하여 Daily Report 만들기
EMR
- 하루 한번 한시간정도 필요한 클러스터를 운영하기엔 최고
- Spot Instance로 사용하면 비용도 굉장히 저렴하다!
- S3에 Direct Access 가능 HDFS에 로그를 업로드할 필요가 없다
31
Amazon S3
- 로그를 담아두기 위한 최고의 저장소
- 신뢰할 수 있는 스토리지
- Offset-Range를 지원하여 로그에서 필요한 부분만 가져오는 것도 가능
AWS를 활용하여 Daily Report 만들기
2. 매일매일 데이터 받아보기 - 목표
✓ 매일 아침 게임 통계를 받아보고 싶어요! 

지표들의 변화 추이를 보고싶어요!

☐ 쿠키별 보유량이 알고 싶어요!
32
AWS를 활용하여 Daily Report 만들기
2-2. 지표들의 변화 추이를 보고싶어요!
33
Amazon S3
EMR
SES
boto
Powered by
LogsOutput
Result
Send via E-Mail
RDS
INSERT / SELECT
HTTPS
Web
cron
Docker
SELECT
BREADCRUMB
AWS를 활용하여 Daily Report 만들기
2-2. 지표들의 변화 추이를 보고싶어요!
34
AWS를 활용하여 Daily Report 만들기
2. 매일매일 데이터 받아보기 - 목표
✓ 매일 아침 게임 통계를 받아보고 싶어요! 

✓ 지표들의 변화 추이를 보고 싶어요!

쿠키 보유량이 알고 싶어요!
35
AWS를 활용하여 Daily Report 만들기 36
2-3. 유저의 쿠키 보유량이 알고 싶어요!
쿠키 보유량 = 쿠키의 총 판매량
AWS를 활용하여 Daily Report 만들기 37
2-3. 유저의 쿠키 보유량이 알고 싶어요!
쿠키 보유량 = 쿠키의 총 판매량
출시 이후 모든 판매로그를 분석..?
AWS를 활용하여 Daily Report 만들기 38
2-3. 유저의 쿠키 보유량이 알고 싶어요!
쿠키 보유량 = 쿠키의 총 판매량
출시 이후 모든 판매로그를 분석..?
AWS를 활용하여 Daily Report 만들기 39
2-3. 유저의 쿠키 보유량이 알고 싶어요!
View를 활용하자!
유저데이터를 담고 있는
의
AWS를 활용하여 Daily Report 만들기 40
View
2-3. 유저의 쿠키 보유량이 알고 싶어요!
Documents로부터 MapReduce를 통해 원하는 형태의 데이터로 변환하는 기능
Mongo의 Aggregate, MapReduce와 비슷
AWS를 활용하여 Daily Report 만들기 41
View
2-3. 유저의 쿠키 보유량이 알고 싶어요!
유저 정보에 들어있는 쿠키 정보를 쿠키별 카운트로 변환!
MapReduce[ 용감한 쿠키, 천사맛 쿠키, 악마맛 쿠키 ]
용감한 쿠키 : 3
천사맛 쿠키 : 2
악마맛 쿠키 : 2
공주맛 쿠키 : 1
[ 용감한 쿠키, 좀비맛 쿠키, 천사맛 쿠키 ]
[ 용감한 쿠키, 공주맛 쿠키, 악마맛 쿠키 ]
Documents로부터 MapReduce를 통해 원하는 형태의 데이터로 변환하는 기능
Mongo의 Aggregate, MapReduce와 비슷
AWS를 활용하여 Daily Report 만들기
2. 매일매일 데이터 받아보기 - 완성!
42
Amazon S3
EMR
SES
boto
Powered by
LogsOutput
Result
View Query
Send via E-Mail
View
RDS
INSERT / SELECT
HTTPS
Web
cron
Docker
BREADCRUMB
SELECT
AWS를 활용하여 Daily Report 만들기
2. 매일매일 데이터 받아보기 - 완성!
✓ 매일 아침 전날의 게임 통계를 받아보고 싶어요! 

✓ 지표들의 변화 추이를 보고싶어요!

✓ 쿠키별 보유량이 알고 싶어요!
43
AWS를 활용하여 Daily Report 만들기
3. 성과 - 로그분석시스템 Breadcrumb
✓ 분석에 필요한 로그만을 가져오는 분석 시스템

✓ Scalding 기반으로 쉽고 빠른 개발

✓ 로컬에서 샘플링된 유저집합으로 개발한 이후 동일하게 전체 데이터에 적용

✓ 현재까지는 당일의 데이터는 조회가 불가

→ 당일 로그의 분석도 가능한 시스템 개발 완료
44
AWS를 활용하여 Daily Report 만들기
3. 성과 - Daily Report Pancake
✓ 하루에 한번 자동화된 로그분석과 보고서

✓ 일회성 분석으로 작성한 코드도 곧바로 정기분석에 추가

✓ 여러 데이터 소스로부터 다양한 분석

✓ 게임 성과 분석 뿐 아니라 어뷰징 분석도 정기적으로 수행

✓ Breadcrumb의 실시간 로그분석에 대응한 버전을 준비 중
45
AWS를 활용하여 Daily Report 만들기 46
http://www.devsisters.com/jobs/
우리는 뛰어난 당신을 원하고 있습니다
AWS를 활용하여 Daily Report 만들기 4747
서버개발팀
정창제
changje@devsisters.com

More Related Content

What's hot

TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정
TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정
TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정Seongyun Byeon
 
Massive service basic
Massive service basicMassive service basic
Massive service basicDaeMyung Kang
 
쿠키런 1년, 서버개발 분투기
쿠키런 1년, 서버개발 분투기쿠키런 1년, 서버개발 분투기
쿠키런 1년, 서버개발 분투기Brian Hong
 
Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1 나무기술(주) 최유석 20170912
Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1  나무기술(주) 최유석 20170912Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1  나무기술(주) 최유석 20170912
Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1 나무기술(주) 최유석 20170912Yooseok Choi
 
4. 대용량 아키텍쳐 설계 패턴
4. 대용량 아키텍쳐 설계 패턴4. 대용량 아키텍쳐 설계 패턴
4. 대용량 아키텍쳐 설계 패턴Terry Cho
 
[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?
[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?
[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?Juhong Park
 
Data pipeline and data lake
Data pipeline and data lakeData pipeline and data lake
Data pipeline and data lakeDaeMyung Kang
 
Spark 의 핵심은 무엇인가? RDD! (RDD paper review)
Spark 의 핵심은 무엇인가? RDD! (RDD paper review)Spark 의 핵심은 무엇인가? RDD! (RDD paper review)
Spark 의 핵심은 무엇인가? RDD! (RDD paper review)Yongho Ha
 
Aws glue를 통한 손쉬운 데이터 전처리 작업하기
Aws glue를 통한 손쉬운 데이터 전처리 작업하기Aws glue를 통한 손쉬운 데이터 전처리 작업하기
Aws glue를 통한 손쉬운 데이터 전처리 작업하기Amazon Web Services Korea
 
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다승화 양
 
Data Engineering 101
Data Engineering 101Data Engineering 101
Data Engineering 101DaeMyung Kang
 
인공지능추천시스템 airs개발기_모델링과시스템
인공지능추천시스템 airs개발기_모델링과시스템인공지능추천시스템 airs개발기_모델링과시스템
인공지능추천시스템 airs개발기_모델링과시스템NAVER D2
 
AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017
AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017
AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017Amazon Web Services Korea
 
카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개
카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개
카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개if kakao
 
mongodb와 mysql의 CRUD 연산의 성능 비교
mongodb와 mysql의 CRUD 연산의 성능 비교mongodb와 mysql의 CRUD 연산의 성능 비교
mongodb와 mysql의 CRUD 연산의 성능 비교Woo Yeong Choi
 
대용량 로그분석 Bigquery로 간단히 사용하기
대용량 로그분석 Bigquery로 간단히 사용하기대용량 로그분석 Bigquery로 간단히 사용하기
대용량 로그분석 Bigquery로 간단히 사용하기Jaikwang Lee
 
오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...
오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...
오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...Amazon Web Services Korea
 
[215] Druid로 쉽고 빠르게 데이터 분석하기
[215] Druid로 쉽고 빠르게 데이터 분석하기[215] Druid로 쉽고 빠르게 데이터 분석하기
[215] Druid로 쉽고 빠르게 데이터 분석하기NAVER D2
 
Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나
Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나
Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나Amazon Web Services Korea
 

What's hot (20)

TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정
TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정
TF에서 팀 빌딩까지 9개월의 기록 : 성장하는 조직을 만드는 여정
 
Massive service basic
Massive service basicMassive service basic
Massive service basic
 
쿠키런 1년, 서버개발 분투기
쿠키런 1년, 서버개발 분투기쿠키런 1년, 서버개발 분투기
쿠키런 1년, 서버개발 분투기
 
Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1 나무기술(주) 최유석 20170912
Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1  나무기술(주) 최유석 20170912Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1  나무기술(주) 최유석 20170912
Bigquery와 airflow를 이용한 데이터 분석 시스템 구축 v1 나무기술(주) 최유석 20170912
 
4. 대용량 아키텍쳐 설계 패턴
4. 대용량 아키텍쳐 설계 패턴4. 대용량 아키텍쳐 설계 패턴
4. 대용량 아키텍쳐 설계 패턴
 
[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?
[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?
[KAIST 채용설명회] 데이터 엔지니어는 무슨 일을 하나요?
 
Data pipeline and data lake
Data pipeline and data lakeData pipeline and data lake
Data pipeline and data lake
 
Spark 의 핵심은 무엇인가? RDD! (RDD paper review)
Spark 의 핵심은 무엇인가? RDD! (RDD paper review)Spark 의 핵심은 무엇인가? RDD! (RDD paper review)
Spark 의 핵심은 무엇인가? RDD! (RDD paper review)
 
Aws glue를 통한 손쉬운 데이터 전처리 작업하기
Aws glue를 통한 손쉬운 데이터 전처리 작업하기Aws glue를 통한 손쉬운 데이터 전처리 작업하기
Aws glue를 통한 손쉬운 데이터 전처리 작업하기
 
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
 
Data Engineering 101
Data Engineering 101Data Engineering 101
Data Engineering 101
 
Log design
Log designLog design
Log design
 
인공지능추천시스템 airs개발기_모델링과시스템
인공지능추천시스템 airs개발기_모델링과시스템인공지능추천시스템 airs개발기_모델링과시스템
인공지능추천시스템 airs개발기_모델링과시스템
 
AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017
AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017
AWS 빅데이터 아키텍처 패턴 및 모범 사례- AWS Summit Seoul 2017
 
카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개
카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개
카카오 광고 플랫폼 MSA 적용 사례 및 API Gateway와 인증 구현에 대한 소개
 
mongodb와 mysql의 CRUD 연산의 성능 비교
mongodb와 mysql의 CRUD 연산의 성능 비교mongodb와 mysql의 CRUD 연산의 성능 비교
mongodb와 mysql의 CRUD 연산의 성능 비교
 
대용량 로그분석 Bigquery로 간단히 사용하기
대용량 로그분석 Bigquery로 간단히 사용하기대용량 로그분석 Bigquery로 간단히 사용하기
대용량 로그분석 Bigquery로 간단히 사용하기
 
오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...
오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...
오딘: 발할라 라이징 MMORPG의 성능 최적화 사례 공유 [카카오게임즈 - 레벨 300] - 발표자: 김문권, 팀장, 라이온하트 스튜디오...
 
[215] Druid로 쉽고 빠르게 데이터 분석하기
[215] Druid로 쉽고 빠르게 데이터 분석하기[215] Druid로 쉽고 빠르게 데이터 분석하기
[215] Druid로 쉽고 빠르게 데이터 분석하기
 
Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나
Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나
Amazon RDS Proxy 집중 탐구 - 윤석찬 :: AWS Unboxing 온라인 세미나
 

Viewers also liked

Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)
Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)
Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)NAVER D2
 
Mr.Robot CTF Write-Up (Korean version)
Mr.Robot CTF Write-Up (Korean version)Mr.Robot CTF Write-Up (Korean version)
Mr.Robot CTF Write-Up (Korean version)Sehan Lee
 
[Kerference] DEFCON CTF 풀어보기 - 박상석(KERT)
[Kerference]  DEFCON CTF 풀어보기 - 박상석(KERT)[Kerference]  DEFCON CTF 풀어보기 - 박상석(KERT)
[Kerference] DEFCON CTF 풀어보기 - 박상석(KERT)NAVER D2
 
2011 07 04_wordlens
2011 07 04_wordlens2011 07 04_wordlens
2011 07 04_wordlensSanghoon Kim
 
중국인터넷현황
중국인터넷현황중국인터넷현황
중국인터넷현황Sangrae Jo
 
Blogging, IT Trend를 읽는 Smart한 방법
Blogging, IT Trend를 읽는 Smart한 방법Blogging, IT Trend를 읽는 Smart한 방법
Blogging, IT Trend를 읽는 Smart한 방법Choi Chris
 
기업블로그 효과(Outcome)분석 보고서 (관계성 지수)
기업블로그 효과(Outcome)분석 보고서 (관계성 지수)기업블로그 효과(Outcome)분석 보고서 (관계성 지수)
기업블로그 효과(Outcome)분석 보고서 (관계성 지수)SCOTOSS
 
Social Media Marketing Report 2014
Social Media Marketing Report 2014Social Media Marketing Report 2014
Social Media Marketing Report 2014태원 이
 
[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?
[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?
[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?MezzoMedia
 
[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?
[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?
[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?MezzoMedia
 
Appsasia 6월 마켓 리포트 (일본시장자료)
Appsasia 6월 마켓 리포트 (일본시장자료)Appsasia 6월 마켓 리포트 (일본시장자료)
Appsasia 6월 마켓 리포트 (일본시장자료)appsasia
 
【Mobidays】KM-Report 2017年2月
【Mobidays】KM-Report 2017年2月【Mobidays】KM-Report 2017年2月
【Mobidays】KM-Report 2017年2月Mobidays
 
내 인생 설계도 (Business Model You)
내 인생 설계도 (Business Model You)내 인생 설계도 (Business Model You)
내 인생 설계도 (Business Model You)Jung Soo Kim
 
MezzoMedia - Media & Market Report [2월 호]
MezzoMedia - Media & Market Report [2월 호]MezzoMedia - Media & Market Report [2월 호]
MezzoMedia - Media & Market Report [2월 호]MezzoMedia
 
MezzoMedia - Media & Market Report [3월 호]
MezzoMedia - Media & Market Report [3월 호]MezzoMedia - Media & Market Report [3월 호]
MezzoMedia - Media & Market Report [3월 호]MezzoMedia
 
비즈니스모델이란 무엇인가 - 정의와 종류
비즈니스모델이란 무엇인가 - 정의와 종류비즈니스모델이란 무엇인가 - 정의와 종류
비즈니스모델이란 무엇인가 - 정의와 종류The Innovation Lab
 
2017전망보고서 미디어이슈 1215
2017전망보고서 미디어이슈 12152017전망보고서 미디어이슈 1215
2017전망보고서 미디어이슈 1215Nasmedia
 
[mobidays] M report 8월호
[mobidays] M report 8월호[mobidays] M report 8월호
[mobidays] M report 8월호Mobidays
 
[메조미디어] Data Max 소개서
[메조미디어] Data Max 소개서[메조미디어] Data Max 소개서
[메조미디어] Data Max 소개서MezzoMedia
 

Viewers also liked (20)

Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)
Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)
Christmas CTF 보안대회 수상팀 문제풀이서(팀명:구운순살치즈치킨)
 
Mr.Robot CTF Write-Up (Korean version)
Mr.Robot CTF Write-Up (Korean version)Mr.Robot CTF Write-Up (Korean version)
Mr.Robot CTF Write-Up (Korean version)
 
[Kerference] DEFCON CTF 풀어보기 - 박상석(KERT)
[Kerference]  DEFCON CTF 풀어보기 - 박상석(KERT)[Kerference]  DEFCON CTF 풀어보기 - 박상석(KERT)
[Kerference] DEFCON CTF 풀어보기 - 박상석(KERT)
 
2011 07 04_wordlens
2011 07 04_wordlens2011 07 04_wordlens
2011 07 04_wordlens
 
중국인터넷현황
중국인터넷현황중국인터넷현황
중국인터넷현황
 
Blogging, IT Trend를 읽는 Smart한 방법
Blogging, IT Trend를 읽는 Smart한 방법Blogging, IT Trend를 읽는 Smart한 방법
Blogging, IT Trend를 읽는 Smart한 방법
 
기업블로그 효과(Outcome)분석 보고서 (관계성 지수)
기업블로그 효과(Outcome)분석 보고서 (관계성 지수)기업블로그 효과(Outcome)분석 보고서 (관계성 지수)
기업블로그 효과(Outcome)분석 보고서 (관계성 지수)
 
Social Media Marketing Report 2014
Social Media Marketing Report 2014Social Media Marketing Report 2014
Social Media Marketing Report 2014
 
[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?
[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?
[메조미디어_TIBUZZ] 가장 인기있는 인스턴트 라면은?
 
Business model you(korean)
Business model you(korean)Business model you(korean)
Business model you(korean)
 
[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?
[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?
[메조미디어_TIBUZZ] 남자의 가방, 앞으로 멜까? 뒤로 멜까?
 
Appsasia 6월 마켓 리포트 (일본시장자료)
Appsasia 6월 마켓 리포트 (일본시장자료)Appsasia 6월 마켓 리포트 (일본시장자료)
Appsasia 6월 마켓 리포트 (일본시장자료)
 
【Mobidays】KM-Report 2017年2月
【Mobidays】KM-Report 2017年2月【Mobidays】KM-Report 2017年2月
【Mobidays】KM-Report 2017年2月
 
내 인생 설계도 (Business Model You)
내 인생 설계도 (Business Model You)내 인생 설계도 (Business Model You)
내 인생 설계도 (Business Model You)
 
MezzoMedia - Media & Market Report [2월 호]
MezzoMedia - Media & Market Report [2월 호]MezzoMedia - Media & Market Report [2월 호]
MezzoMedia - Media & Market Report [2월 호]
 
MezzoMedia - Media & Market Report [3월 호]
MezzoMedia - Media & Market Report [3월 호]MezzoMedia - Media & Market Report [3월 호]
MezzoMedia - Media & Market Report [3월 호]
 
비즈니스모델이란 무엇인가 - 정의와 종류
비즈니스모델이란 무엇인가 - 정의와 종류비즈니스모델이란 무엇인가 - 정의와 종류
비즈니스모델이란 무엇인가 - 정의와 종류
 
2017전망보고서 미디어이슈 1215
2017전망보고서 미디어이슈 12152017전망보고서 미디어이슈 1215
2017전망보고서 미디어이슈 1215
 
[mobidays] M report 8월호
[mobidays] M report 8월호[mobidays] M report 8월호
[mobidays] M report 8월호
 
[메조미디어] Data Max 소개서
[메조미디어] Data Max 소개서[메조미디어] Data Max 소개서
[메조미디어] Data Max 소개서
 

Similar to AWS를 활용하여 Daily Report 만들기 : 로그 수집부터 자동화된 분석까지

게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming
게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming
게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 GamingAmazon Web Services Korea
 
Amazon Redshift로 데이터웨어하우스(DW) 구축하기
Amazon Redshift로 데이터웨어하우스(DW) 구축하기Amazon Redshift로 데이터웨어하우스(DW) 구축하기
Amazon Redshift로 데이터웨어하우스(DW) 구축하기Amazon Web Services Korea
 
AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석
AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석
AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석Amazon Web Services Korea
 
아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)
아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)
아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)Brian Hong
 
게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016
게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016
게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016Amazon Web Services Korea
 
KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈
KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈
KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈Minwoo Kim
 
Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...
Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...
Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...Amazon Web Services Korea
 
[E-commerce & Retail Day] 인공지능서비스 활용방안
[E-commerce & Retail Day] 인공지능서비스 활용방안[E-commerce & Retail Day] 인공지능서비스 활용방안
[E-commerce & Retail Day] 인공지능서비스 활용방안Amazon Web Services Korea
 
Elastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 Seoul
Elastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 SeoulElastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 Seoul
Elastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 SeoulSeungYong Oh
 
클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다
클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다
클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다Dae Kim
 
넥슨레드 RF실과 함께할 개발자를 찾습니다
넥슨레드 RF실과 함께할 개발자를 찾습니다넥슨레드 RF실과 함께할 개발자를 찾습니다
넥슨레드 RF실과 함께할 개발자를 찾습니다NEXON RED
 
AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍
AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍
AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍Amazon Web Services Korea
 
Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017
Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017
Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017Amazon Web Services Korea
 
[AWSKRUG] 데이터 얼마까지 알아보셨어요?
[AWSKRUG] 데이터 얼마까지 알아보셨어요?[AWSKRUG] 데이터 얼마까지 알아보셨어요?
[AWSKRUG] 데이터 얼마까지 알아보셨어요?Yan So
 
천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트:: AWS Summit Online Korea 2020
천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트::  AWS Summit Online Korea 2020천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트::  AWS Summit Online Korea 2020
천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트:: AWS Summit Online Korea 2020Amazon Web Services Korea
 
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장Dylan Ko
 
찾아가는 AWS 세미나(구로,가산,판교) - AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)
찾아가는 AWS 세미나(구로,가산,판교) -  AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)찾아가는 AWS 세미나(구로,가산,판교) -  AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)
찾아가는 AWS 세미나(구로,가산,판교) - AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)Amazon Web Services Korea
 
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020Jinwoong Kim
 
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020 AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020 AWSKRUG - AWS한국사용자모임
 

Similar to AWS를 활용하여 Daily Report 만들기 : 로그 수집부터 자동화된 분석까지 (20)

게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming
게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming
게임 서비스 품질 향상을 위한 데이터 분석 활용하기 - 김필중 솔루션즈 아키텍트:: AWS Cloud Track 3 Gaming
 
Amazon Redshift로 데이터웨어하우스(DW) 구축하기
Amazon Redshift로 데이터웨어하우스(DW) 구축하기Amazon Redshift로 데이터웨어하우스(DW) 구축하기
Amazon Redshift로 데이터웨어하우스(DW) 구축하기
 
AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석
AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석
AWS Summit Seoul 2015 - 게임 서비스 혁신을 위한 데이터 분석
 
아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)
아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)
아마존 클라우드와 함께한 1개월, 쿠키런 사례중심 (KGC 2013)
 
KGC 2013 DevSisters
KGC 2013 DevSistersKGC 2013 DevSisters
KGC 2013 DevSisters
 
게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016
게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016
게임 고객 사례를 통해 살펴보는 AWS 활용 전략 :: 이경안 :: AWS Summit Seoul 2016
 
KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈
KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈
KGC 2014 가볍고 유연하게 데이터 분석하기 : 쿠키런 사례 중심 , 데브시스터즈
 
Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...
Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...
Amazon kinesis와 elasticsearch service로 만드는 실시간 데이터 분석 플랫폼 :: 박철수 :: AWS Summi...
 
[E-commerce & Retail Day] 인공지능서비스 활용방안
[E-commerce & Retail Day] 인공지능서비스 활용방안[E-commerce & Retail Day] 인공지능서비스 활용방안
[E-commerce & Retail Day] 인공지능서비스 활용방안
 
Elastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 Seoul
Elastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 SeoulElastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 Seoul
Elastic Stack 을 이용한 게임 서비스 통합 로깅 플랫폼 - elastic{on} 2019 Seoul
 
클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다
클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다
클라우드 기반 Unity 게임 서버 구축, 60분이면 충분하다
 
넥슨레드 RF실과 함께할 개발자를 찾습니다
넥슨레드 RF실과 함께할 개발자를 찾습니다넥슨레드 RF실과 함께할 개발자를 찾습니다
넥슨레드 RF실과 함께할 개발자를 찾습니다
 
AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍
AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍
AWS 서버리스 컴퓨팅-김필중 :: 2015 리인벤트 리캡 게이밍
 
Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017
Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017
Amazon EMR 고급 활용 기법 - AWS Summit Seoul 2017
 
[AWSKRUG] 데이터 얼마까지 알아보셨어요?
[AWSKRUG] 데이터 얼마까지 알아보셨어요?[AWSKRUG] 데이터 얼마까지 알아보셨어요?
[AWSKRUG] 데이터 얼마까지 알아보셨어요?
 
천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트:: AWS Summit Online Korea 2020
천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트::  AWS Summit Online Korea 2020천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트::  AWS Summit Online Korea 2020
천만사용자를 위한 AWS 클라우드 아키텍처 진화하기 – 문종민, AWS솔루션즈 아키텍트:: AWS Summit Online Korea 2020
 
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
 
찾아가는 AWS 세미나(구로,가산,판교) - AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)
찾아가는 AWS 세미나(구로,가산,판교) -  AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)찾아가는 AWS 세미나(구로,가산,판교) -  AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)
찾아가는 AWS 세미나(구로,가산,판교) - AWS에서 작은 서비스 구현하기 (김필중 솔루션즈 아키텍트)
 
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
 
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020 AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
AWS기반 서버리스 데이터레이크 구축하기 - 김진웅 (SK C&C) :: AWS Community Day 2020
 

AWS를 활용하여 Daily Report 만들기 : 로그 수집부터 자동화된 분석까지

  • 1. AWS를 활용하여 Daily Report 만들기 로그 수집부터 자동화된 분석까지 1 서버개발팀 정창제 changje@devsisters.com
  • 2. AWS를 활용하여 Daily Report 만들기 2 쿠키런 소개 • 7,000만 누적 다운로드 • 최대 1,000만 DAU • 한국, 일본, 태국 등 10여개국 다운로드 1위 • 38개국 Top10 다운로드
  • 3. AWS를 활용하여 Daily Report 만들기 3 200~400GB 100TB 쿠키런의 하루 로그는 1년이면 차곡차곡 잘 쌓아야 한다
  • 4. AWS를 활용하여 Daily Report 만들기 0. 로그 수집 4 Amazon S3 Game Servers Redis Elastic Search Kibana . . . Logstash . . .
  • 5. AWS를 활용하여 Daily Report 만들기 5 차곡차곡 쌓여가는 로그 하지만 분석할 방법이 없다..? 200~400GB 100TB 쿠키런의 하루 로그는 1년이면 차곡차곡 잘 쌓아야 한다
  • 6. AWS를 활용하여 Daily Report 만들기 6 최적의 분석시스템을 만들자! 차곡차곡 쌓여가는 로그 하지만 분석할 방법이 없다..? 200~400GB 100TB 쿠키런의 하루 로그는 1년이면 차곡차곡 잘 쌓아야 한다
  • 7. AWS를 활용하여 Daily Report 만들기 1. 쉽고 빠르게 로그 분석하기 7 BREADCRUMB
  • 8. AWS를 활용하여 Daily Report 만들기 1. 로그분석시스템 요구조건 - 하루 전 로그와 1년 전 로그를 동일하게! → 날짜별로 로그파일을 분리 8
  • 9. AWS를 활용하여 Daily Report 만들기 - 하루 전 로그와 1년 전 로그를 동일하게! → 날짜별로 로그파일을 분리 - 특정 활동 및 특정 유저의 로그를 빠르게! → Action과 MemberID로 Index 9 1. 로그분석시스템 요구조건
  • 10. AWS를 활용하여 Daily Report 만들기 1. 로그분석시스템 요구조건 - 하루 전 로그와 1년 전 로그를 동일하게! → 날짜별로 로그파일을 분리 - 특정 활동 및 특정 유저의 로그를 빠르게! → Action과 MemberID로 Index - 로컬 개발환경에서도 빠르게! → 유저 샘플링을 지원하자! 10
  • 11. AWS를 활용하여 Daily Report 만들기 1. 로그 전처리 11 Logstash Amazon S3 20분마다 업로드 2015-04-21T00.01.txt 2015-04-21T00.21.txt 2015-04-21T00.41.txt 2015-04-21T01.01.txt 2015-04-21T01.21.txt 2015-04-21T01.41.txt … 2015-04-21T22.41.txt 2015-04-21T23.01.txt 2015-04-21T23.21.txt 2015-04-21T23.41.txt 2015-04-22T00.01.txt
  • 12. AWS를 활용하여 Daily Report 만들기 1. 로그 전처리 12 Logstash Amazon S3 Amazon S3 2015-04-21T00.01.txt 2015-04-21T00.21.txt 2015-04-21T00.41.txt 2015-04-21T01.01.txt 2015-04-21T01.21.txt 2015-04-21T01.41.txt … 2015-04-21T22.41.txt 2015-04-21T23.01.txt 2015-04-21T23.21.txt 2015-04-21T23.41.txt 2015-04-22T00.01.txt 00.01.json 00.01.txt.sz 00.21.json 00.21.txt.sz … 23.41.json 23.41.txt.sz 00.01.json 00.01.txt.sz 20분마다 업로드 정렬과 압축
  • 13. AWS를 활용하여 Daily Report 만들기 1. 로그 전처리 13 Logstash Amazon S3 Amazon S3 Amazon S3 일일 병합 2015-04-21T00.01.txt 2015-04-21T00.21.txt 2015-04-21T00.41.txt 2015-04-21T01.01.txt 2015-04-21T01.21.txt 2015-04-21T01.41.txt … 2015-04-21T22.41.txt 2015-04-21T23.01.txt 2015-04-21T23.21.txt 2015-04-21T23.41.txt 2015-04-22T00.01.txt index.json gamelog.sz 00.01.json 00.01.txt.sz 00.21.json 00.21.txt.sz … 23.41.json 23.41.txt.sz 00.01.json 00.01.txt.sz 정렬과 압축 20분마다 업로드
  • 14. AWS를 활용하여 Daily Report 만들기 1. 로그 전처리 14 gamelog.sz • 날짜로 분리 • Action, MemberID로 정렬 • 특정 활동 및 특정 유저의 로그를 빠르게 찾을 수 있도록 • 로컬 개발에서 샘플링하여 사용할 수 있도록 MemberID를 뒤집은 값을 키로 사용 • Block 단위 Snappy 압축 • Networt Latency ↓ • Snappy : CPU 사용량 ↓ • Splittable (Snappy Framing Format)
  • 15. AWS를 활용하여 Daily Report 만들기 1. 로그 전처리 15 …}, { "key_first": “<Action> <Reversed MemberID> <Time> <Hash>”, "key_last": “<Action> <Reversed MemberID> <Time> <Hash>”, "offset": 0, "length": <Length> }, … • gamelog를 조회하기 위한 Metadata index.json
  • 16. AWS를 활용하여 Daily Report 만들기 1. 로그 전처리 16 [{ "key_first": “member/connect 00001”, "key_last": “member/connect 000024”, "offset": 0, “length": 31243 }, { "key_first": “member/connect 000025”, "key_last": “member/disconnect 0003”, "offset": 31244, "length": 42347 }, { "key_first": “member/disconnect 00031”, "key_last": “game/startGame 00012”, "offset": 73591, "length": 49323 }] index.jsongamelog.sz member/connect member/connect member/connect member/disconnect game/startGame member/disconnect 10000 240000 250000 3000 13000 00012
  • 17. AWS를 활용하여 Daily Report 만들기 BREADCRUMB 1. 로그 분석 17 Amazon S3 EMR index.json gamelog.sz output by 2015-04-21T0 0.01.txt 00.01.json 00.01.txt.sz https://github.com/twitter/scalding
  • 18. AWS를 활용하여 Daily Report 만들기 1. 예제 - ActiveUser 18https://github.com/twitter/scalding class ActiveUserCount(args : Args) extends Job(args) {
 CookierunLog("member/connect", args("sampling"),
 args("timeStart"), args("timeEnd"),
 Tuple1("memberSeq"))
 .groupBy(‘memberSeq){ _.take(1) }
 .groupAll{ _.size }
 .write(Csv(args("output")))
 } 1/1000 샘플링시 1주일에 대해 로컬에서 15초
  • 19. AWS를 활용하여 Daily Report 만들기 19 분석 시스템도 있는데... 로그도 쌓이고... 요청이 있을때만 비정기적으로 추출하는 통계...
  • 20. AWS를 활용하여 Daily Report 만들기 20 분석 시스템도 있는데... 로그도 쌓이고... 요청이 있을때만 비정기적으로 추출하는 통계... 정기적인 통계가 필요하다!
  • 21. AWS를 활용하여 Daily Report 만들기 2. 매일매일 데이터 받아보기 21
  • 22. AWS를 활용하여 Daily Report 만들기 ☐ 매일 아침 게임 통계를 받아보고 싶어요! ☐ 지표들의 변화 추이를 보고 싶어요! ☐ 쿠키별 보유량이 알고 싶어요! 22 2. 매일매일 데이터 받아보기 - 목표
  • 23. AWS를 활용하여 Daily Report 만들기 BREADCRUMB 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 23 Amazon S3 EMR Powered by LogsOutput
  • 24. AWS를 활용하여 Daily Report 만들기 BREADCRUMB 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 24 Amazon S3 EMR SES boto Powered by LogsOutput Result cron Send via E-Mail Docker RDS INSERT / SELECT
  • 25. AWS를 활용하여 Daily Report 만들기 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 25
  • 26. AWS를 활용하여 Daily Report 만들기 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 26 Upload JAR S3 JAR BREADCRUMB
  • 27. AWS를 활용하여 Daily Report 만들기 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 27 EMR run_jobflow BREADCRUMB S3 JAR
  • 28. AWS를 활용하여 Daily Report 만들기 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 28 EMR BREADCRUMB BREADCRUMB S3 add_jobflow_steps Logs Output JAR
  • 29. AWS를 활용하여 Daily Report 만들기 BREADCRUMB 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 29 Amazon S3 EMR SES boto Powered by LogsOutput Result cron Send via E-Mail Docker RDS INSERT / SELECT
  • 30. AWS를 활용하여 Daily Report 만들기 2-1. 매일 아침 게임 통계를 받아보고 싶어요! 30
  • 31. AWS를 활용하여 Daily Report 만들기 EMR - 하루 한번 한시간정도 필요한 클러스터를 운영하기엔 최고 - Spot Instance로 사용하면 비용도 굉장히 저렴하다! - S3에 Direct Access 가능 HDFS에 로그를 업로드할 필요가 없다 31 Amazon S3 - 로그를 담아두기 위한 최고의 저장소 - 신뢰할 수 있는 스토리지 - Offset-Range를 지원하여 로그에서 필요한 부분만 가져오는 것도 가능
  • 32. AWS를 활용하여 Daily Report 만들기 2. 매일매일 데이터 받아보기 - 목표 ✓ 매일 아침 게임 통계를 받아보고 싶어요! 지표들의 변화 추이를 보고싶어요! ☐ 쿠키별 보유량이 알고 싶어요! 32
  • 33. AWS를 활용하여 Daily Report 만들기 2-2. 지표들의 변화 추이를 보고싶어요! 33 Amazon S3 EMR SES boto Powered by LogsOutput Result Send via E-Mail RDS INSERT / SELECT HTTPS Web cron Docker SELECT BREADCRUMB
  • 34. AWS를 활용하여 Daily Report 만들기 2-2. 지표들의 변화 추이를 보고싶어요! 34
  • 35. AWS를 활용하여 Daily Report 만들기 2. 매일매일 데이터 받아보기 - 목표 ✓ 매일 아침 게임 통계를 받아보고 싶어요! ✓ 지표들의 변화 추이를 보고 싶어요! 쿠키 보유량이 알고 싶어요! 35
  • 36. AWS를 활용하여 Daily Report 만들기 36 2-3. 유저의 쿠키 보유량이 알고 싶어요! 쿠키 보유량 = 쿠키의 총 판매량
  • 37. AWS를 활용하여 Daily Report 만들기 37 2-3. 유저의 쿠키 보유량이 알고 싶어요! 쿠키 보유량 = 쿠키의 총 판매량 출시 이후 모든 판매로그를 분석..?
  • 38. AWS를 활용하여 Daily Report 만들기 38 2-3. 유저의 쿠키 보유량이 알고 싶어요! 쿠키 보유량 = 쿠키의 총 판매량 출시 이후 모든 판매로그를 분석..?
  • 39. AWS를 활용하여 Daily Report 만들기 39 2-3. 유저의 쿠키 보유량이 알고 싶어요! View를 활용하자! 유저데이터를 담고 있는 의
  • 40. AWS를 활용하여 Daily Report 만들기 40 View 2-3. 유저의 쿠키 보유량이 알고 싶어요! Documents로부터 MapReduce를 통해 원하는 형태의 데이터로 변환하는 기능 Mongo의 Aggregate, MapReduce와 비슷
  • 41. AWS를 활용하여 Daily Report 만들기 41 View 2-3. 유저의 쿠키 보유량이 알고 싶어요! 유저 정보에 들어있는 쿠키 정보를 쿠키별 카운트로 변환! MapReduce[ 용감한 쿠키, 천사맛 쿠키, 악마맛 쿠키 ] 용감한 쿠키 : 3 천사맛 쿠키 : 2 악마맛 쿠키 : 2 공주맛 쿠키 : 1 [ 용감한 쿠키, 좀비맛 쿠키, 천사맛 쿠키 ] [ 용감한 쿠키, 공주맛 쿠키, 악마맛 쿠키 ] Documents로부터 MapReduce를 통해 원하는 형태의 데이터로 변환하는 기능 Mongo의 Aggregate, MapReduce와 비슷
  • 42. AWS를 활용하여 Daily Report 만들기 2. 매일매일 데이터 받아보기 - 완성! 42 Amazon S3 EMR SES boto Powered by LogsOutput Result View Query Send via E-Mail View RDS INSERT / SELECT HTTPS Web cron Docker BREADCRUMB SELECT
  • 43. AWS를 활용하여 Daily Report 만들기 2. 매일매일 데이터 받아보기 - 완성! ✓ 매일 아침 전날의 게임 통계를 받아보고 싶어요! ✓ 지표들의 변화 추이를 보고싶어요! ✓ 쿠키별 보유량이 알고 싶어요! 43
  • 44. AWS를 활용하여 Daily Report 만들기 3. 성과 - 로그분석시스템 Breadcrumb ✓ 분석에 필요한 로그만을 가져오는 분석 시스템 ✓ Scalding 기반으로 쉽고 빠른 개발 ✓ 로컬에서 샘플링된 유저집합으로 개발한 이후 동일하게 전체 데이터에 적용 ✓ 현재까지는 당일의 데이터는 조회가 불가 → 당일 로그의 분석도 가능한 시스템 개발 완료 44
  • 45. AWS를 활용하여 Daily Report 만들기 3. 성과 - Daily Report Pancake ✓ 하루에 한번 자동화된 로그분석과 보고서 ✓ 일회성 분석으로 작성한 코드도 곧바로 정기분석에 추가 ✓ 여러 데이터 소스로부터 다양한 분석 ✓ 게임 성과 분석 뿐 아니라 어뷰징 분석도 정기적으로 수행 ✓ Breadcrumb의 실시간 로그분석에 대응한 버전을 준비 중 45
  • 46. AWS를 활용하여 Daily Report 만들기 46 http://www.devsisters.com/jobs/ 우리는 뛰어난 당신을 원하고 있습니다
  • 47. AWS를 활용하여 Daily Report 만들기 4747 서버개발팀 정창제 changje@devsisters.com