패션 테크 스타트업 지그재그의 AWS 기반 지속 가능한 AWS 데이터 분석 플랫폼 구축과 Personalize를 활용한 개인화 상품 추천 서비스 구축 경험을 공유드립니다. [마이셀럽스] MATS(Mycelebs AI Transformation Suite)를 이용한 Data 수집, 시각화, 자동화를 통해 고객 취향 기반의 추천 서비스를 제공한 사례를 공유합니다.
3. Agenda
지그재그 데이터와 활용
개인화 추천 시스템
개인화 추천 구현 시 어려운점
Amazon Personalize 소개
Amazon Personalize 적용 시 전략포인트
지그재그 사례
4. 지그재그 데이터
3,700개+ 입점 쇼핑몰
2,000만+ 앱 다운로드
300만+ 월간이용자 (MAU)
6,000억 2019 거래액
26TB+ 빅데이터 분석을 위한 데이터레이크
250M+ 사용자로그
33 DAG, 200+ 일별 전처리잡 관리 in Airflow
5. 지그재그 데이터 활용
개인화 상품 추천 🌟
쇼핑몰 랭킹 알고리즘
상품 인기도 알고리즘
비지니스 성과분석
앱 사용성 분석
결제 퍼널 분석
제품 사이즈 추천
유저 모니터링, 이상감지
6. 개인화 추천 시스템
• Rule-Based 시스템
• 구현하기 쉬움
• 데이터가 많아질수록 성능이 떨어짐
• 유지보수가 어려움
• Collaborative Filtering, Factorization Machine
• 개인화 추천을 위해 많이 사용되는 알고리즘
• 구현을 위해 제공되는 리소스가 많아서 쉽게 적용 가능 (Amazon SageMaker)
• Deep Learning
• 사용자 이벤트의 연속성을 고려
• 대용량 데이터에서도 좋은 성능을 유지
7. 개인화 추천 구현 시 어려운점
• 개인화 추천 알고리즘 리서치 및 구현
• Cold Start 문제 - 신규유저, 신규상품의 데이터가 없음
• 실시간 이벤트 처리
• 빅데이터 스케일링
• 메모리 및 스토리지 리소스 문제
• Machine Learning 전문가
• 추천모델을 적용하고 운영해야하는 시스템 구축의 난이도 (데이터전처리, 모델학습, 배포, 모니터링)
• 그 외 수많은 이유들이 존재
8. Amazon Personalize 소개
서울리전 출시 (2020.01): https://aws.amazon.com/ko/blogs/korea/amazon-personalize-seoul-region/
9. Amazon Personalize 적용 시 전략 포인트
Improve the possibilities of personalizing your service!
Take the full benefits of Amazon Personalize
10. • 워크플로우
• Amazon.com의 Machine Learning 기술을 기반으로 개인화 알고리즘 제공
• 손쉽게 모델 생성 가능하고 API형태로 Endpoint를 제공함
• AutoML 기능이 제공되며 자동으로 모델 최적화가 이루어짐
• 클릭이나 구매 같은 사용자 이벤트 데이터를 실시간으로 수집하고 반영함
Benefits
11. 문제해결법 (Proof of Concept)
Possibilities
추천시스템 개발
구매전환율
개선 필요
개인화 된
상품 제공
비지니스 문제 가설
검
증
문제해결방법
추천시스
템 개발
검
증
☠️
데
드
라
인
☠️
컨
셉
변
경
검
증
컨
셉
변
경
컨
셉
변
경
검
증
검
증
컨
셉
변
경
컨
셉
변
경
검
증
검
증
빠른 시도, 다양한 검증 & 최적화
가설검증까지 오랜 시간이 걸림, 리스크 관리 어려움
15. 지그재그 사례
● 지그재그 Datalake 상에서 분석
● Feature Engineering 진행
● S3에 학습데이터 적재
Build Train Tune Deploy
● 주요 학습알고리즘 제공
● 개인화 추천을 위해 hrnn 알고리즘 사용
● 커스텀 모델 학습 가능
● AutoML 기능 지원
● 하이퍼파라미터 최적화
● 원클릭으로 최적의 모델성능 튜닝
● 캠페인 단위로 모델 배포
● AWS SDK 제공
● 실시간/배치 추론 제공
● Recommendation Filtering 기능 제공
디버깅, 모델평가, 모델비교
배포모델 성과모니터링
최적의 모델선택
콘솔상에서 산출물 관리 원클릭 HPO
18. Demo
User-Item Interaction(M), User(O), Item(O) 3가지 종류의
Dataset 존재
이후에 솔루션에 선택하는 Recipe 에 따라서 User, Item
dataset의 Metadata 정보가 필요할 수도 있습니다.
Data importing 작업은 스키마에 민감합니다.
27. 지그재그 사례 (연관상품추천)
핵심지표 상승
- 해당 영역 CTR 높음
- 해당 영역을 경험한 유저의 인당 노출수 대조군
대비 증가
Lesson Learned
- 다양한 형태의 추천UI를 통해 유저의 쇼핑 패
턴을 바꿀수 있다
28. • 배치 인퍼런스 지원 (2019.11)
• 비용 절감 효과
• 확장성 있는 추천 아키텍쳐 가능
• https://aws.amazon.com/ko/about-aws/whats-new/2019/11/amazon-
personalize-now-supports-batch-recommendations/
• 추천 필터링 기능 지원 (2020.06)
• 좋은 추천시스템의 요건?
• 좋은 상품을 선정 -> 필터링 -> 재정렬
• 이미 구매한 상품 제외, 반응율 없는 상품 제외 등
• https://aws.amazon.com/ko/blogs/machine-learning/introducing-
recommendation-filters-in-amazon-personalize/
Amazon Personalize 주요 업데이트
29. • User Personalization (2020.08)
• 더욱 빠르고 다양하게 최신 상품 추천
• 더 다양한 추천 Context를 위한 정보추가와 컨트롤 가능한 추천 인덱스
• https://aws.amazon.com/blogs/machine-learning/amazon-
personalize-can-now-create-up-to-50-better-recommendations-for-
fast-changing-catalogs-of-new-products-and-fresh-content/
Amazon Personalize 주요 업데이트
32. Agenda
• Mycelebs 회사 소개 및 레퍼런스
• AWS Global Best Case : Mycelebs Core Value
• MATS(Mycelebs AI Transformation Suite) 통한 서비스 적용 사례
• Service Automation을 통한 서비스 확장
• Mycelebs 특허 현황
• Going Forward
33. 국내외 30여 개의 레퍼런스 보유
Service Automation을 통한 국내외 Top 기업들과 유연한 비즈니스모델의 실질적인 레퍼런스 보유
Live-Updated AI ContentLUAC
SAAS1
Service Automation을 통한
Webpage 자동생성 및 운영
Affiliate2 B2C Service3 Subscription4
Mycelebs AI Transformation SuiteMATS
Mycelebs.ai
34. AWS Global Best Case 선정
압도적인 음성인식 경험, 정황 기반의 추천, 서비스 오토메이션의 우수성 인정
35. 1) Robust Voice User Experience (VUX)
구글, 시리 등 어떤 엔진과 디바이스에서도 기존의 음성인식률을 압도적으로 높여주는 검증 완료
43. 1. 카카오페이지
국내 1위 컨텐츠 플랫폼에 AI 검색 및 추천 서비스 전면 제공
✓ 누적 키토크 활용 수
8,000만 회 이상
✓ 일간 키토크 활용
평균 22만 회 이상
19.08 19.09 19.1 19.11 19.12 20.01 20.02 20.03 20.04 20.08
8.000만
614만
992만
1,352만
1,702만
2,252만
3,200만
20.02
3,367만
4,010만
(19.08.06 ~)
카카오페이지 오픈 후 성과 누적 키토크 활용 수
20.09
51. Maimovie
북미 영화 시장의 상황과 스테이크홀더 별 문제를 파악하고
People-powered 기반으로 영화 서비스를 Redefine 하기 위해 론칭
출처 : based on catalog data from Reelgood and IMDB ratings as of June 1, 2020
52. Maimovie(계속)
소수의 심사위원과 특정 단체가 주는 기존 5,000여 개의 어워드를 확인할 수 있음은 물론,
대중들의 데이터를 기반으로 6,000가지 이상의 진정한 대중들의 영화 취향 순위 확인 가능
People’s Taste
Awards 모듈
취향별
Awards 상세
53.
54. Service Automation 통한 제한 없는 서비스 확장
도서, 패션, 와인 등 API Business 무한 확장 진행
AWS SageMaker를 통해 분석 및 서비스 반영까지 비즈니스 상황에 맞게 효율적으로 활용 가능