네이버 클라우드 플랫폼의 "TensorFlow Server"상품은 TensorFlow를 비롯한 딥러닝 및 머신러닝 패키지와 코드를 작성할 수 있는 웹 기반의 Jupyter Notebook을 제공하여 빠르게 딥러닝, 머신러닝을 구현할 수 있게 해주는 상품입니다. 해당 온라인 교육을 통해 네이버 클라우드 플랫폼 상에서 Jupyter를 이용해 데이터 분석환경을 구축하는 법을 알아봅니다. | The "TensorFlow Server" product on Naver's cloud platform includes TensorFlow. This product provides a web-based Jupyter Notebook that allows users to write deep learning and machine learning packages and code so that they can quickly implement deep learning and machine learning.In this chapter, we will learn how to build a data analysis environment using Jupyter on Naver's cloud platform.
2. 분석 환경을 구축하기 위한 요소
Data Infrastructure
Framework / Library
Tools
게임내 사용자 패턴
기업공시 데이터
교통 흐름
통신 데이터
의료기록
재무정보
금융분야 마이데이터
Python
R
TensorFlow
Scala
Hadoop
Julia
SAS
Jupyter Lab
JupyterHub
R Studio
Hive
Zeppline
Pycharm
GPU
Hi-memory, CPU
Hadoop Cluster
Tensorflow Cluster
HPC
Kubernetes Cluster
Storage
3. Jupyter Project
IPython Project 에서 시작
다수의 커널을 지원하면서 Jupyter로 명칭 변경
오픈소스 프로젝트(BSD)
데이터 과학을 쉽게 접근할 수 있는 통로 제공
변형, 수치 시뮬레이션, 통계 모델링, 머신러닝에서 사용
대화형 분석 환경 제공
5. Jupyter Notebook / JupyterLab
수십 개 언어의 실행 환경을 지원
웹 페이지 내에서 코드 실행
시각화 기능 지원
데이터 분석을 위한 코드 및 데이터 공유
Front-end, Server, Kernel 로 구성
코드와 실시간 상호작용
6. Jupyter Notebook / JupyterLab
User
Jupyter
Notebook
Server
Kernel
Python2.7
Python3.x
R
Julia
Other kernels
…
Browser
Notebook file
Notebook file
7. JupyterHub
다중 사용자를 위한 분석 환경 제공
다양한 인증 방식 제공(OAuth, PAM..)
컨테이너 친화적 환경 제공
Kubernetes를 통한 Scalable 환경 제공
다양한 인프라에서 실행가능
A multi-user version of the notebook designed for companies, classrooms and research labs
9. JupyterHub for Kubernetes
Kubernetes Service (Standard/CPU Intensive)
POD POD POD POD
NODE1 NODE2
NODE 1
Proxy for
launching
Notebook
LoadBalancer
NAS
Block Storage
Prometheus
Grafana
Python
R
NAVER CLOUD PLATFORM
11. TensorFlow Server
TensorFlow 외 PyTorch, Keras, Pandas, Numpy, Scikit-Learn, Gensim 등 다양한 패키지 제공
conda를 이용해 필요한 라이브러리 추가 설치 가능
Jupyter Notebook과 여러 분석에 필요한 라이브러리를 별도 설치 없이 손쉽게 사용
15. Demo1
TensorFlow Server를 이용한 분석 환경 구축
TensorFlow Server 생성
Jupyter Notebook
인증키 설정
Jupyter Notebook 접속
R 설치 및 실행 Python 실행
16. Demo2
JupyterHub와 Kubernetes Service를 이용한 분석 환경 구축
Kubernetes Service
Cluster 생성
Helm을 이용한
JupyterHub 설치
JupyterHub 접속
계정 별 Pod 생성 확인 Kubernetes 대시보드 접속
17. 분석을 위한 네이버클라우드플랫폼 상품
Kubernetes Service Archive storage Object Storage TensorFlow Cluster TensorFlow Server
Cloud Hadoop Cloud Search Elasticsearch
Service
Real User AnalyticsCPU Intensive GPU Server