[180718] ML 분야 유학 및 취업 준비 설명회 @SNU

ML 분야 유학 및 취업 준비 설명회
장윤석
UMich CSE
yunseokjang.github.io
김태훈
OpenAI
carpedm20.github.io
김주용
CMU MLD
juyongkim.com
2018년 7월 18일 수요일, 서울대학교 301동 102호

이 자리의 목적
• The Rule of Three
• 같은 질문/경험의 반복
• “무언가 문제가 있다”

현실
• 수없이 많은 지원자
• 심지어 해마다 늘어나고 있다
• 잘못 퍼져나가는 정보들
• GPA 4.xx 면 붙는다?
• TOEFL / GRE 안정권??
• 장학금이 있으면 안전하다???
• (그로 인해) 쌓여가는 탈락 통보

ML 분야 연구를 하고자 한다면…
• Academia vs. Industry (in 2018)
• 어느 쪽에서 먼저 시작하더라도, 차후에 옮겨가더라도 이상하지 않음
• 그러나 어디든 시작하기가 힘들다.
• 발표 순서
• 김태훈: “머신러닝 해외 취업 준비: 닳고 닳은 이력서와 고통스러웠던 면접을
돌아보며”
• 김주용: “ML 유학 HOW TO”
• 장윤석: “ML 대학원 지원, 그 틈바구니에서”

머신러닝 해외 취업 준비:
닳고 닳은 이력서와 고통스러웠던 면접을 돌아보며
김태훈 / carpedm20

첫 NLP 프로젝트
https://github.com/carpedm20/reviewduk
2014.09
리뷰덕: 한국어 감정 분석기

어떻게 여기까지 왔는가?

고치고 또 고쳤던 CV를 보면
https://carpedm20.github.io/

합격할 때까지의 과정을 돌아 보면

ㅈㄴ 어려웠습니다
기준, 학력, Spec에 따라 다릅니다만

1. 지원
2. 면접
3. 합격
4. 인턴쉽

Research Oriented
(ex. DeepMind, OpenAI, Google Brain, ...)
Research > Production
(ex. Facebook AI, Google AI, ...)
Research <= Production
(so called, research "engineer")

전 별 생각 없이 닥치는 대로

서류 지원에 걸리는 시간

평균 5+분
Ph.D. 지원은 평균 2+시간

20+개 회사 = 2+시간
Ph.D. 하나 지원하는 시간

X개 회사 합격 :)
연봉 협상까지 간 경우만

Field
Projects
연줄이 있나

CV
개인정보
SNS
연줄이 있나

“서류 통과”의 핵심은

인터넷에 많은 정보가 있겠지만

많이 활동하고
많이 참고하고
많이 수정하고

1. 활동
학점, 연구, 논문, 대회, 인턴쉽, 장학금, 수상 경력, 발표 등

논문 구현
연구 경험
대회 수상

2. 참고
인터넷에 널려있는 훌륭한 Resume/CV들

가장 많이 참고한 건
https://minalee.info/

Junior – 내 또래는 지금 무엇을 하고 있는가
• https://shmsw25.github.io
• https://yunseokjang.github.io
• https://carpedm20.github.io
• https://wook.kr/cv.html
• http://yclin.me
• http://takerum.github.io
• http://kelvinxu.github.io
• https://jameschuanggg.github.io
• http://evjang.com/
• http://tunz.kr

Senior – 성공한 사람들은 어떻게 성공했는가
• https://seominjoon.github.io
• http://cvlab.postech.ac.kr/~hyeonwoonoh
• https://sites.google.com/a/umich.edu/junhyuk-oh
• https://sites.google.com/site/junyoungchung08
• http://www.people.fas.harvard.edu/~yoonkim
• https://hyunjik11.github.io
• http://www-bcf.usc.edu/~limjj
• http://cvlab.postech.ac.kr/~maga33/
• http://joschu.net/

3. 수정
지원 전에 수십 번은 바꾸고 이후에도 계속 수정

최대한 자신이 쿨하게 보일 수 있도록

Thanks for applying to X!
We've reviewed your application and would like to
move forward with scheduling a Skype call

Phone Interview
On-site Interview

보통 한번. 가끔 2+번
On-site가 없는 경우, 면접 경비를 지원하지 않는 경우

코딩을 안하면 Skype보단 phone call
인터넷 연결이 불안정 할수도

시간 편하게 잡으려면
http://whenisgood.net/
Thx @wookayin

다양한 억양
미국 / 영국 / 호주 / 라틴 / 인도

통화 받고 영 안되겠다 싶으면
급한 일 생겨서 다음에 하자고..

불안하시면 Cheat sheet 준비

보통 기술적인 질문만.
코딩 면접을 보면 링크 보내줌
(Google의 경우 Docs 링크)

기초적인 함수, 알고리즘의 정확한 이해도
식을 써라, 문제점이 뭔가, 해결책은 뭔가

마침 평소에 좋아하던 연구자와의 인터뷰
예전에 하던 algorithm learning 연구는 왜 안하는지
어린 나이에 어떻게 그렇게 Ph.D.를 빨리 졸업할 수 있었는지
Wojciech Zaremba

간단한 코딩 면접
File I/O, Parallelization

CS/Math/Statistics/ML
NP-Complete, Jacobian, Pseudoinverse, Gibbs sampling

지금까지 본 면접 중에서 가장 어려움
기초가 이래서 중요합니다..

2. On-site
비행기를 탈 때부터 회사 문 밖을 나올 때 까지 1초도 편하지 않은

Hi Taehoon,
I heard your call with X went well, and we'd
like to invite you onsite for an interview!

호텔, 비행기 + (가끔) 교통비, 식비
여행 비용은 걱정 안하셔도 됨

한번의 여행, 여러 개의 면접
일정을 잘 조절 해야

도착한 바로 다음날 인터뷰..

1. 일정을 넉넉히 잡고 컨디션 조절
적어도 시차 적응할 시간은 있어야.. 호텔 길게 요청해도 괜찮음

2. 호텔을 겹치게 예약하지 마세요
체크인을 첫날에 안하면 방이 없어질 수도.. (여행 상식)
Thanks @xissy

보통 5~6시간
10-11시~3-4시

오전 면접 1
오전 면접 2
점심(먹으면서 면접)
오후 면접 1
오후 면접 2
오후 면접 3

들어오고
인사하고
관심도 없는 질문으로 긴장 풀어주고
(요즘 연구 뭐해? 뭐가 요즘 재밌어?)
본격면접

ML 이론 면접 N개 + 코딩 면접 M개
N>M

개념 묻고
예시 묻고
칠판에 증명
<반복>

Policy Gradient
TD-Learning
Dynamic programming
Web programming

ML 질문에 대한 준비만 했었지만..

코딩 면접 N개 + ML 관련 코딩 면접 M개
N>M

Dynamic programming
Scalability
TensorFlow
TensorFlow Optimization
https://www.glassdoor.com/Interview/Google-Interview-Questions-E9079.htm

평범한 프로그래밍 면접 준비
https://leetcode.com 에서 1,2주간 100+개 문제 풀면

미리 물어볼 질문 준비해가기
나 어떤 role을 맡게 될 것인가, 연구 요즘 뭐하나, 밥은 잘 챙겨주나, 잠은 자나

레퍼런스 체크
Reference check

We're close to making a decision on whether to
give you an offer to work at X. To get a little more
information, we'd like to talk to do reference calls
with your previous employers.

1. 지도 교수님
2. 직장 동료

1. Joseph J. Lim (USC)
2. John Wu (Berkeley Lab)
3. Alex Sim (Berkeley Lab)

Reference call이 갈거다
라고 메일을 쓰다보면

자신의 과거를 많이 돌아보게 됨
3년 전의 나는 과연 성실했는가..

I have good news --
we've decided to give you an offer to
join the team full-time

끝?
계약서에 싸인 하기 전까지는 끝난 게 아니다

연봉 협상
해봤지만 저는 아직 1도 모르겠어요 ㅠㅠ

연봉 = Base (B) + Stock (S) + Bonus (N)

Ph.D: 최소 200k (120B+50S+30N)
Ilya Sutskever: 1,900k (900B+1000N)
https://www.reddit.com/r/MachineLearning/comments/458a02
https://www.reddit.com/r/reinforcementlearning/comments/8di9yt
2016년 기준

https://www.paysa.com/salaries/google--research-scientist,-google-brain--mountain-view,-ca
연차에 따라 차이가 크다는 걸 감안하셔야

https://www.paysa.com/salaries/facebook--research-scientist--san-francisco,-ca
연차에 따라 차이가 크다는 걸 감안하셔야

H1B 비자를 받는 사람들의 연봉은 법적으로 공개됨
https://h1bdata.info/

제일 중요한건 카드를 많이 가지는 것
(카운터 오퍼가 있어야 연봉을 올리기 쉬움)

연봉 협상 가이드 꼭 읽어보세요
https://medium.freecodecamp.org/c46bb9bc7dea

내가 너네 회사의 비전과 동료는 정말 마음에 드는데,
미국으로 이주하는 비용과 가족 부양에 드는 비용을
고려 했을 때 X가 주는 오퍼를 거절하기 힘들다.너네와
비전을 공유하고 싶지만 현실 적으로 지금 오퍼를
어셉하긴 어렵다. 블라블라 (인간 대 인간으로써 감성을 자극하는)

Ph.D.를 꿈꾸기 시작한 건
TensorFlow가 나오고 나서 부터

1. 여유를 가졌다면
2. 연구를 즐길 수 있었다면
3. 남들을 신경 쓰지 않았더라면
https://www.facebook.com/carpedm20/posts/1752958058117045

어쨌든 나를 여기까지 끌고 왔으니..

윤석이 형은 research collaboration을
하라고 추천하셨지만..

학회가기 전에 같이 연구 하고 싶은 사람한테
연락하는 것도 방법

Internship
학부, 석사, 박사 중 주로 방학 때

1. 학교 인턴쉽: 직접적인 지도
2. 회사 인턴쉽: 양질의 데이터

1. 학교 인턴쉽: 직접적인 지도
2. 회사 인턴쉽: 데이터, 인프라
하지만 사람, 회사, 학교에 따라 케바케

1. 스스로 신청ex) DeepMind
2. 교수님 추천ex) Berkeley Lab
하지만 사람, 회사, 학교에 따라 케바케

학부 지도 교수님의 추천으로

Joseph 교수님이 박사 과정 학생을 찾으시다가
아는 분이 저를 소개해주셔서
Thanks @ hyeonwoonoh

Ph.D. 지원하면서 면접 겸 공동 연구
(적극적으로 연구할 기회가 있는지 물어보기도 하면 좋을 듯)

연봉 협상 왠만하면 없음
해봐야 Housing, hotel, relocation fee 정도

보통 1년 전 컨텍, 늦어도 6개월 전

Q: 해외 취업시 추천서의 필요?

A: 가끔 Researcher role에서 요구함
MSR, Google, FAIR

A: Google, reddit.com/machinelearning
잘 걸러서 보세요

Q: 해외 유학/취업의 계기?

A: 내가 어디까지 갈 수 있는가를
확인하고 싶어서
배우고 싶어서, 똑똑한 사람들은 어떤 문화 속에서 일하는가, 진짜 문제를 풀고 싶어서, 창업 하려고

Q: 내 위치를 남들과 비교하는 법?

Q: 학사 수준으로 관련 분야에 취업 가능
여부와 어떻게 준비와 계획을 세워야 하는지?

A: 저처럼 하시면 될 수도 있을 것 같아요
저도 많이 떨어졌습니다

Q: 박사를 전혀 고려하지 않는 "석사 후 취업"
루트에 대하여 알고 싶습니다.

A: 학력 세탁과 함께 인터뷰도 쉽게 보니까
국내 학/석사 보다 쉬울 것 같아요

ML 유학 HOW TO
2018-07-18
ML 유학 및 취업 설명회
김주용

오늘의 발표는
l 저의 유학 지원에 대한 경험을 공유하고
l ML 유학을 준비하는 다른 분들의 시행착오를 줄이고자 진행하는
l 유학준비의 일반적이고 특수한 과정에 대한 설명

1. 나는 왜 유학을 가려고 하는가?
2. 유학에 대한 “일반적인” 준비사항
3. 박사유학을 위한 연구생활
Content

1. 나는 왜 유학을 가려고 하는가?
유학을 결심하기까지

유학을 결심하게 된 계기
l ‘박사학위’를 받기 위해서 ‘외국생활’을 하는 것 – 힘들다
l 그럼에도 불구하고 가고자 한다면…?
• 연구를 해보고 싶다. 그것도 좋은 교수님과, 좋은 연구실에서
• 좀 더 큰 무대로 나가보고 싶다 / 한번 공부로 끝장을 보고 싶다
• 졸업 후에 해외 취업을 하고 싶다
l 사실 연구가 모두에게 필요한 것이 아니다
• 좋은 대학(학부)에 입학하는 것 != 대학원에 들어가서 연구하는 것
• 나는 개발 type? 연구 type?

유학을 가고자 결심했다면
l 어떤 유학을 가지?
• 학사 후 박사유학
• 국내석사 후 박사유학
• 석사유학 후 박사유학
• 석사유학 Only
l 그리고 무엇을 준비하지?
• 유학 준비, 할 것이 생각보다 많다!

바로 박사? 석사 후 박사?
l 미국은 학사 후 바로 박사과정 진학이 가능하다
• 미국 석사는 심화된 수업 수강 + 개인 프로젝트 수행 (모든 학교가 그런 것은 아니다)
• 유럽은 박사과정을 위해 석사 학위가 필요(영국: 석사1년+박사3년)
l 그럼에도 불구하고 학사 후 바로 박사 유학을 가는 것은 쉽지 않다
• 경쟁이 치열한 분야
• 학부 끝나고 바로 지원한다고 advantage가 있는 것은 아님
l 학부 후 박사유학을 가고자 한다면 가능한 일찍 시작하는 것을 추천
• 영어점수, 게다가 연구실적까지 만드는 데 시간이 걸린다

국내석사 vs 해외석사
l 국내석사 후 유학
• (+) 박사 지원을 위한 연구 경험을 가장 오래(>2년) 쌓을 수 있음
• (+) 한국에 탑에 논문을 잘 내는 연구실들이 많아지고 있다
• (-) 실적이 없는 경우 오히려 단점
• (-) 요즘은 여기 들어가기도 쉽지 않은 것이 현실…
l 해외석사 후 유학
• (+) 비교적(?) 어드미션이 쉽다
• (+) 박사 가고자 하는 교수에게 어필, 대가의 추천서 가능
• (+) 빠른 해외 취업을 위한 징검다리
• (-) 많은 경우 펀딩이 주어지지 않는다(>5만불/년. 물론, 장학금이나 TA도 있다)
• (-) 연구 경험이 보장되어있는 과정이 적다(연구를 위해서는 적극적인 컨택이 필요)

2. 유학에 대한 “일반적인” 준비사항
길고 긴 유학준비

유학을 위한 “일반적인” 준비사항
l 병역
l 학점
l 영어시험(TOEFL/GRE)
l 랩서치 / 지원학교 결정
l SOP(Statement of Purpose)
l CV(or Resume)
l 연구경력
l 추천서
l 장학금
l 이게 다 뭐하는 거지?
• 일반적인 미국 대학원 선발 과정에 필요한 것들
• Applying to Ph.D. Programs in Computer Science

병역
l 현역(1년 9개월)
• (+) 병역을 일찍, 그리고 빨리 해결할 수 있다.
• (-) 다른 것을 하기 쉽지 않다.
l 병역특례(학부 산업기능요원 or 석사 전문연구요원; 2년 10개월)
• (+) 여유시간이 비교적 많다. 코딩과 친해지는데 도움이 된다(비CS).
• (-) 오래 걸린다. 일찍 시작할 수 없다(4?5?학기 이후). 들어가기 점점 어려워진다(산업).
l 어떤 것이든 가능한 빨리 시작하는 것을 추천
• 병역 해결 후 유학준비를 연속적으로 하는 것이 중요(특히나 연구경험을 위해)
l 유학 후 병역 해결
• 가능한 것으로 아는데 잘 모름

학점
l 학점, 얼마나 좋아야 하나요?
• 정석적인 답변: 학점은 성실함의 척도가 된다.
• 커미티/교수의 주된 스크리닝 factor…지만 과락이 아닐 정도면 된다
• 그렇다면 그 좋아야 한다는 학점은 어느 정도인가? → 최소 3점 중반? 4+면 best
• 연구경험 등의 factor도 함께 작용
• 낮아도 만회할(매력적인) 장점이 있다면 가능 진리의 케바케, 컨택이 중요한 이유
• 어떤 과목이냐도 중요(연구분야 관련 과목)
• 그래도, 일반적이라면 최대한 잘 관리하도록 노력합시다

학점
When applying to a Ph.D. program in CS, you’d like your grades in CS and Math and
Engineering classes to be about 3.5 out of 4.0, as a rough guideline. It does not help
you, in my opinion, to be closer to 4.0 as opposed to 3.5. It’s a much better idea to
spend your time on research than on optimizing your GPA. At CMU the mean GPA of
students admitted is over 3.8 (even though we don’t use grades as a criterion),
however students have also been admitted with GPAs below 3.3, since research is
what matters, not grades. A GPA of 4.0 alone with no research experience will not get
you into any top CS program. Keep in mind that GPAs are evaluated in the context of
the undergraduate program. A 3.4 GPA from a topranked CS undergraduate program
like CMU counts the same as a 3.8 or 3.9 GPA from a less well-known CS
undergraduate program.
- In Applying to Ph.D. Programs in Computer Science

영어시험
l TOEFL
• 총점, SPK가 중요(최소 100/22; 더 낮은 점수로 합격하는 능력자들도)
• SPK 최저 점수를 요구하는 학교가 있다(있긴 한데…)
l GRE
• 거의 모든 학교에서 필요(예외: MIT EECS)
• 간단히 말해서 과락만 넘기면 괜찮다(150/168/3.0 정도?)
l 영어에 대해 아무런 생각이 없으시다면… 빨리 끝내는 것을 목표로
l 참고사항
• 유효기간 확인(TOEFL 2년, GRE 5년)
• 신청 시 점수를 보내고자 하는 학교를 등록(최대 4)하면 점수 발송 비용 절약
• 장학금(유학 전, 7월)을 위해서는 다다익선(KFAS? 거긴 그냥 학점 아닌가요)
• 유럽은 IELTS를 필요로 하는 곳도 있다.

랩/학교서치
l 연구분야/지원방법을 파악하는 과정
• 관심있는 연구분야 찾기: 내가 어떤 분야에 흥미를 느끼는가?
• 그리고 그 분야(+관련분야)에 어떤 교수(연구실)가 있는지 찾기
• 구체적으로 어떤 방향의 연구를 하는지
• 유심히 보면 홈페이지에서 드러나는 정보가 많다(저는 잘 못 봅니다)
• 완벽하지 않을 수 있다. 하면서 동시에 분야를 찾아가는 방식
• 각 학교의 application process도 함께 파악
l HOW TO
• 각 학교 홈페이지를 들어가서 모든 연구실에 대해 전수조사(...!)
• csrankings.org - 정량적인 지표
• 논문을 읽다보면 눈에 들어오는 이름들
• 관심있는 과 홈페이지의 Ph.D. Admissions 읽어보기
• 분야에 대한 진지한 고민이 있고, 구체적일수록 좋다

SOP(Statement of Purpose)
l SOP(or PS; Personal Statement)
• 본인이 희망하는 연구주제에 대해 적는 영어 에세이
• 주로 이력서, 성적표에 드러나지 않은 내용으로 연구중심으로 작성
• 본인의 연구에 대한 생각을 담는 글 (영어/성적표는 안볼수 있어도 이건 빠르게라도 봄)
l 무엇을 적을까?
• 하고자 하는 연구를 왜 하려고 하며, 이것이 왜 중요한지를 자연스럽게 서술
• SOP != 자기소개서
• 학교마다 내용이 거의 같으며 마지막 문단만 학교에 맞게 수정
l 전형적인 SOP 구성 예시[*]
• 1문단: 훅(hook) + 나의 관심분야와 그 이유
• 2~4문단: 지금까지의 연구경험. 어떤 문제들을 어떤 독창적인 방식으로 풀었는지
• 5문단: 내가 왜 Ph.D. 를 따려고 하는지 + 박사과정에서 풀고자 하는 문제
• 6문단: 내가 왜 “이 학교”에 진학하려고 하는지 + 관심있는 교수 언급
[*] Applying to Ph.D. Programs in Computer Science

l SOP의 잘못된 예시
1) The grade regurgitator – “In my high school, I was ranked Number 1. Then I got a
perfect score on my college entrance exams. Then I competed in a statewide math
competition and I was the best. Then I competed in a national programming
competition and I was 5th. In college, my GPA was 3.95 out of 4.0. For these reasons, I
believe I will do well in your graduate department.”
2) The boy genius – “When I was born, my mother gave me a glass ball to play with. I
would lay and look at the prisms of light shining through my ball. At age 3, my father
brought home our first computer and I disassembled it and then put it back together. It
was then that I knew I wanted to become a computer scientist. By age 5, I had taken
apart every appliance in our house. At age 6, I became a chess whiz ....”
- In Applying to Ph.D. Programs in Computer Science

l 어떻게 적을까?
• 영어로 글을 적는 것은 한글과 많이 다르다(토플 GRE 라이팅을 생각해보면)
• 좋은 hook을 생각해야 한다
• 소극적인 어투보다 자신감 뿜뿜이 훨씬 좋다
• 전공과 관련한 모든 사항을 담을 필요는 없다(매끄러운 흐름과 설득력이 제일 중요)
l 퇴고, 퇴고, 또 퇴고
• 읽었을 때 한번에 잘 읽히는 글이 좋은 글. 대개 많은 수정이 필요하다
• 최대한 많은 사람들(외국 경험이 있는 분이면 더 좋고)에게 피드백
• 영문교정 사이트($100~): 깊은 수정을 기대하기는 힘들고 문장을 매끄럽게 만들어준다(개인적인
소감, 더 비싼 서비스를 쓴다면?)

CV(Resume)
l 간단히 말해서 이력서: Formal 한 형태로 작성
• 객관적이지만 주관적인 문서
• 학력, 경력, 논문, 수상실적, 수강과목(selected), Skill 등
l 어떻게 적을까
• 한 눈에 경력을 알아볼 수 있는 것이 좋다(~2페이지)
• 정돈되게, 하지만 장점이 될 부분을 강조하게 배치
• 세부적인 항목들을 모두 신중하게 작성
• 포맷: 정해진 것은 없지만 정돈되게. 학력 인터넷에 제공된 Template(link) or 직접 작성
• 다른 박사과정들의 수많은 CV들 참조
l 미리 만드는 것이 좋다
• 교수 컨택할 때 또는 인턴/회사 지원할 때 함께 보내기 좋은 문서
• 자신의 커리어에 대해 한번 정리해보는 계기

장학금
l ML(CS) 유학에서 장학금이란
• 기본적으로 공대 박사과정은 펀딩이 있고, 특히 ML(CS)분야는 펀딩이 충분하다
• 지도교수를 정하거나 바꾸는 경우 비교적 자유로울 수 있다
l 국내 장학금
• 유학 지원 전: 한국고등교육재단(SK), 한미교육위원단(Fulbright)
• 유학 지원 후: 관정이종환교육재단, 일주학술문화재단, 국비장학생
l 지원시 주의사항
• 장학금 마다 지원금액/기간, 선발일정이 상이하기 때문에 미리미리 확인
• Fulbright는 학위 후 2년간 귀국 의무, 국비장학생은 한국사 자격증 필요

연구 경력
l 매우 중요!
• 경력 + 추천서 + 연구실적(논문) 에서 큰 이점
• 무엇보다도, 연구/연구실에서의 생활이 나에게 맞는지 알아보는 방법
l 얼마나?
• 석사 후 지원이면 당연히 충족
• 학부 후 지원이라고 해도 1년 정도는 인턴 경험이 있기를 기대한다
• 일단 시작을 했다면 논문을 낼 수 있을 정도로 아주 열심히 하자
l (뒤에서 설명합니다.)

추천서
l 추천서?
• 미국 대학원의 지원에는 3장의 추천서가 필요
• 연구경력, SOP와 함께 중요한 요소 중 하나. 대가의 추천서는 영향력이 크다.
• 한 개라도 강력한 추천서를 받는 것이 중요하다.
• 한 분이 작성해주시는 추천서 수의 제한이 있는 경우가 있다. (서울대 전기과: 7개)
l 누구에게 부탁을 드릴까?
• 학계 인지도 / 강력한 추천서 / 연구능력을 평가 – 내가 성실하게 잘 보여졌을까?
1. 교수/커미티가 아는 사람
2. 연구실 지도교수님
3. 함께 연구한 포닥님
4. 병특 회사 사장님
5. 성적을 잘 받은 수업의 교수님(약함)
l 언제 부탁을 드릴까?
• 보통 지원 1~2달 전(이지만 빨라도 OK)
• (당연하지만) 굉장히 수고로운 일이므로 약속을 잡고 찾아뵙고 부탁하자(준비 必)
• 처음 부탁드릴 때 / 지원을 완료했을때 부탁 / deadline을 앞두고 remind / 감사메일

추천서
l 추천서에는 어떤 내용이 기재되나?
1. 객관식 (ex. 본 학생은 지난 n년간 지도한 학생들 중에? 가장 잘함/상위 10%/~ )
2. 주관식: 초안이 필요할 수 있다(대개 신임교수/비교수 경우)
• 학교와 교수님 사이에 이메일로 전달되며 학생은 내용을 볼 수 없다
l 경쟁
• 추천서는 교수님의 영향력에 영향 – 객관적으로 작성된다
• 한 해에 같은 교수님께 같은 분야로 지원하는 학생이 여럿이라면?
• 일찍 말씀 드리는게 좋다

그 외에 있으면 좋은 것들
l 교수 컨택
• 경쟁이 심한 분야기 때문에 거의 반드시 필요
• 본인을 교수에게 어필하고 나에 대해 관심있는 교수님을 알 수 있다
• 내가 가고자 하는 연구실의 내년 선발 일정을 미리 아는 것 → 낭비를 줄여준다
l 컨택 방법
• 이메일 or 직접 학회/강연장에서 만나기
• 사실 모든 기회를 적극적으로 활용
• (다음 세션에서 좀 더 자세히 설명해주십니다. 저는 잘 못했거든요.)

l 개인 홈페이지
• CV의 웹버전, 좀 더 informal한 표현이 가능
• 이메일 컨택 시 좀 더 갖추어진 인상을 줄 수 있다

l 개인 홈페이지
• 지원/컨택 후 방문자 확인 (Google 애널리틱스)

지원하기
l 지원하기
• 학교마다 일정이 상이하니 반드시 확인(대개 9월부터 open, 12월 중순 deadline)
• 작성할 사항이 많다. 앞두고 하면 당황
• 인적사항, 성적, 영어, SOP, CV, 관심있는 분야/교수(~3명; SOP에도 명시) 등등…
• 한 군데라도 미리 해보는 것을 추천
l 추천서 발송
• 추천서의 deadline은 application과 항상 같지는 않다(교수님께 remind 드릴 날은?)
• 발송 시 모든 학교를 한번에(교수님의 메일함을 생각)
l Application fee
• 학교마다 다르며 $70~$125 정도 한다 (CMU는 early submission 할인)
• + 성적표 발송 (2만원, MySNU에서 가능) + TOEFL(GRE) 성적 발송비(~$50/학교)
• = 약 $150~200/학교 (ㅠㅠ)

인터뷰
l 인터뷰
• 시기: 12월말~1월중 (2월)
• 방식: 보통 Skype(영상통화, 간혹 음성통화)
• 시간: 약 30분~1시간
• 관심있는 학생들을 대상으로 진행(일반적으로 좋은 신호)
l 교수가 인터뷰 요청하는 경우(대부분)
• 연구에 대한 이야기가 대부분, 학생의 관심 분야와 교수와의 fit 확인
• 학생이 수강했던 수업, skill, 진행했던 연구, 지금 하고 있는 연구
• 교수의 분야에 대해서 얼마나 아는지, 궁금한거 없니?
• 왜 이 학교를 지원했니?
l 커미티가 요청하는 경우
• 다 좋은데, 학생의 영어 능력을 확인하고 싶은 경우(e.g. TOEFL SPK이 낮은 경우)
• 안정권이 아니라 borderline인 경우
l 준비
• 예상질문 + 스크립트 (회화?) / 인터뷰 후 Thank-you 메일

기다림의 시간… 그리고
l 기다림의 시간
• 눈뜨자마자 확인하는 메일함
• 시간 날 때마다 들어가 보는 thegradcafe
l 결과 발표
• 1차 억셉(1월 말~2월): 일괄적으로 보낸다
• 그 외 억셉: 교수(커미티)와의 (추가)인터뷰 후
• 대개 모든 어드미션을 주고 난 이후에 일괄적으로 리젝 메일을 보낸다

기다림의 시간… 그리고
l 학교 결정
• Open House(3월 초~중)
• 어드미션 받은 학생들을 대상으로 학교에 대해 홍보하는 행사
• 여행 경비에 대한 Reimbursement가 있다. (up to $5~600)
• 학풍, 미래 지도교수와의 케미 확인
• 학교 결정(~4월 15일)
• 지도교수와의 fit, 연구실 분위기, 졸업생 진로, 생활환경 등을 고려

3. 박사유학을 위한 연구생활
하… 그래, 연구실적이 있어야 한다고?

연구실적이 필요하다
l 이쯤에서 한 번 생각해 볼 주제: 내가 교수라면 어떤 학생을 뽑고 싶을까?
• 성실하고 똑똑하고 앞으로 우리 연구실에서 하는 연구 잘 할 것 같은 학생
• 미래 연구능력이 보장된 학생을 그 누구보다 선호하기 마련
l 연구실적이라 함은… 논문?
• 연구를 잘 한다 ≈ 좋은 학회에 논문 잘 낸다
• 앞으로의 잠재력이 보여진다면 꼭 논문이 아니어도 된다.
• 사실 출판된 논문이 없어도 연구실 교수님께 인정을 받는다면 절반은 성공(좋은 추천서)
• 그래도 열심히 해서 잘 알려진 학회/저널에 논문을 내는것을 목표로 하자
• 커미티가 뽑는 학교라면, 논문 수는 연구 역량에 대해 정량적으로 사용하기 좋은 지표
• 슬픈 현실 아니 내가 연구를 배우려고 박사과정에 지원하는데…
예) Top tier 논문 네 개 들고 지원하는 중국 학부생(;;;)

연구실 정하기
l 어떤 연구실에 들어갈 것인가
• 연구분야: 하고 싶은 분야랑 최대한 가깝게
• 나도 하고 싶은게 확실하지 않다? 인턴부터 대략적인 분야라도 해보길 추천
• 분야에 대한 경험 + 박사 지원 시 인턴과 반드시 같을 필요는 없다
• 해보니 맞지 않는다면? 연구실을 마음대로 바꿀 수 있는 것도 인턴의 특권
• 교수님의 지도 스타일
• 신임교수 / 정교수(테뉴어)
• 지도방식 micro/macro-management
• 교수님께 직접 / 박사과정을 통해서
• 최근 2년 간의 publication
• 랩크기(구성원), 연구실 워크스테이션 규모 등등…
l 최대한 잘 알아보고 들어갈 것
• 무슨 말인고 하니…
• 랩 홈페이지 분석 / 아는 사람에게 물어보기 / 대학원생에게 메일 보내기

연구실 정하기
l 연구실 들어가기
• 요즘 ML 연구실은 대학원도 보통 인턴을 하고 들어간다. 슬픈현실
• 컨택: 예절을 지켜서 솔직하게
• “~에 관심이 있고, 유학을 생각하고 있습니다. 앞으로 ~동안 ~와 관련된 주제로 인턴(및 석사
를)을 하면서 연구에 대해 배우고 가능하면 좋은 실적을 남기고 싶다.”
• 보통 방학 때 시작(그 말은 종강 한 달 전에는 컨택)
• CV 정도는 깔끔하게 만들어서 보내자
• 연구실에서 받지 않을 수도 있다
• 이미 인턴을 많이 하고 있을 수도 있다.
• 석사를 전제로 하면 더욱 (서울대 CS 연구실 한 해 TO: 석사1/석박2)
• 그렇다고 석박으로 입학하고 나중에 석사로 바꾸는? 랩에 피해가 될 수 있다
• 어떤 학생을 뽑을까?
• 학부 인턴이라면 보통은 대학원생의 연구 보조부터(본인이 하고자 하는 주제가 확실?)

ML 분야의 연구
l 저도 아직 연구를 잘 모르지만… 이미 대학원 나오신 분들도 계시고
l ML 분야 연구 특징
• 실험 중심적인 분야
• Task & solution / new method / new dataset
• 분야의 논문 사이클이 굉장히 빠르다. (약 3개월)
• 1~2년 전 기술이 옛날 것이 되는 경우가 허다
• (다른분야도 마찬가지) 논문 follow-up을 열심히!
• 기본적으로 아이디어를 내고 이를 빠르게 검증한다
• 모델링(가설) → 코딩 → 결과 → 논문
• 말은 간단하지만…

ML 분야의 연구
l 결과가 나올 때까지 실험
• Dataset 처리하기
• 대용량 데이터인 경우 이를 preprocessing 하는데 상당한 노력
• 직접 dataset을 만드는 연구
• 딥러닝 모델 성능 뽑아내기
• 모델 만들고 잘 안 돌아가면? 원하는 성능이 나올때까지
• 디버깅 / hyperparameter tuning / 아예 method 가 잘못 됐나?
• 실험 한번 돌리면 트레이닝을 위해 한참 기다린다(실험에 맞춰지는 삶)
• 연구실의 생활
• 방랩식당랩랩식당랩방
• 현실입니다

ML 분야의 연구
l 결과가 나오면?
• 사실 실험 결과가 나오기 시작하면 다음 학회를 바로 타겟으로 해야한다(…)
• 논문 데드라인까지 실험+라이팅+figure 무한 반복
• 연구실에서 숙식
• 적극적으로 editing을 해주시는 교수님의 의지
• 억셉 확률 올라감✨
• 랩원들로부터 피드백(좋은 연구실이 왜 좋은가)
l 억셉이 되면?
• 연구 홍보: Arxiv, project page, reddit
• 학회에서 나를 홍보할 수 있는 절호의 기회
• 교수/대학원생 컨택, 해외 인턴 기회
• (잘못된 예) 나의 ICML 2017
• (다음 세션 참조)
(Image credit: https://twitter.com/nijfranck/status/977277874460938242?lang=en)

ML 분야의 연구
l Top conference에 논문을 쓴다는 것은
• 연구의 originality가 높은 연구를 한다는 것
• 작지만 새로운 방향인 것 / 새로운 문제를 정의하고 기존 방법을 잘 써서 푸는 것
• 논문을 제출할 기회가 많다.
• 학회 사이클도 빠르고 (CV: ICML → ECCV → NIPS → AAAI → CVPR)
• 매년 publication의 수도 늘어난다
• CVPR: 600(2016) → 1000(2018) (acceptance rate는 고정; ~30%)
• 한 해에 한국에서 나오는 논문의 수? CVPR 2018: >20 papers

정리하며
l 유학준비: 준비할게 많고 결코 쉽지 않다
• 미리미리 하나씩 시간을 두고 준비하는 것이 좋다
• 경쟁이 있는 분야인 만큼 전략을 잘 세워야 함
l CS, 특히 ML 분야는 경쟁이 심하니
• 시간을 많이 들여서 빠짐없이 준비하시고
• 연구는 필수, 컨택은 선택?

TO READ
l Applying to Ph.D. Programs in Computer Science
• CS 분야의 박사과정, 그리고 해외 대학원의 선발절차에 대해 잘 설명해 놓은 글
l A Small Step Forward
• KAIST CS 김주호 교수님 블로그. 유학 준비 뿐 아니라 유학에 대한 많은 포스팅이 있다.
l The Ph.D. Grind
• CS 박사과정에 대한 회고록

Thank You!
Any Question?
Thanks to Prof. Gunhee Kim, Prof. Sung Ju Hwang
and all the members of SNUVL

ML 대학원 지원, 그 틈바구니에서
장윤석 (UMich CSE)
https://yunseokjang.github.io/
Special thanks to Prof. Gunhee Kim and Dr. Yale Song

1. ML 분야 18년도 입학생 분석
[TL;DR] 결코 만만하지 않다

1. 학점
• 어떻게 보면, cut-off 통과 이후에 영향력이 미미할 수도…
• “학점 4.xx 이면 A 대학교 갈 수 있나요?” 는 가장 난감한 질문
• 현실) 주변에 수석 졸업자 중 all reject 받은 경우만 해도 이미 셀 수 없이 많음
• 좋은 학교/연구실에 간 사람들이 과연 학점으로만 되었을까?
• 당신이 대학원생을 뽑는다고 하면, 당신은 무엇을 가장 중요하게 볼 것인가?
• 학점을 보고 뽑을 수는 있다. 그런데…
• 동일한 GPA 는 사실,
• 다른 학교 / 다른 나라에도 있을 것이고
• 본인이 지원하는 학교에도 있을 것이다
• 1년에 한 교수님당 TO는 0~1명이라고 고려하는게 (실제 몇 명이든) 합리적
• 누구나 좋은 교수님에게 지도를 받고 싶다

2. 장학금
• 본인을 어필할 수 있는 방법이 될 수는 있습니다 (당연)
• Apply 이전 장학금: KFAS / Fulbright
• 그러나 있다고 해서 선발이 보장되는 것은 또 아닙니다
• 여기 발표자 중에도… (읍읍)
• 반대로 장학금을 받고 오는 학생이 많아서, 학과 차원에서 incentive rule을 정
해둔 경우도 종종 있음 (수령액의 n%를 reward로 주겠다 등)
• Fund 걱정이 적은 분야 vs. Fund가 많이 모자란 분야
• 어디가 bottleneck이냐에 따라, 결정은 늘 달라지기 마련. 여긴 ML 분야 설명회

3. 연구
• 최근 2년 이내 관련 분야 top conference paper 게재 횟수?
• 참고) ML은 2년이면 강산이 n번 바뀌는 수준으로 발전 속도가 빠릅니다
• 충격적이게도, 지원자 중에 이 숫자가 0이 아닌 사람이 이미 많은 편
• 추천서와 더불어 가장 중요하게 고려되었을 것이라 추측
(덧: 추천서는 매우 중요합니다)
• 관찰1) visit day동안 연구 경험이 전무한 올해 ML분야 박사 합격생을 못 봤음
• 관찰2) 연구 경험이 전무한 ML 석사 지원자가 붙는 경우도 많이 못 들어봄
• nth author / workshop / short paper도 당연히 모두 연구활동임

4. 기타
• 놀랍게도 지금까지 이야기한 이야기는 올해 합격자 기준
• 소위 “cut-off”라 말하는 기준은 꾸준히 올라가는 추세
• (질문 내용) 교수님이 선발하는 학교 vs 학과별로 선발하는 학교
• 일반적으로 교수님이 직접 선발할수록 좀 더 구체적으로 보는 편 (극소수 선발)
• 학과 단위로 선발할수록 좀 더 두루두루 보는 편 (committee들이 평가)
• 물론, 이 경우에도 교수님이 학생을 간택 하는 경우가 종종 일어나기도 합니다
• 1학년 때 여러 교수님과 연구하면서 매칭을 하는 학교들의 경우, 이후 전공이 바뀌기도 함
• 교수님들과 좋은 관계를 유지하는 것은 매우 중요합니다.
• 간혹 TO가 없는 경우도 있다
• 학교를 1개만 지원하는 건 이래저래 도박일 수 있음
• 교수님과 관계가 매우 좋으면, 이번에 학생을 못 뽑는다고 미리 알려주기도 함

2. 본인 PR이 필요할까?
- PR을 준비하는 법, 그리고 성공적으로 했을 때 일어나는 일
[TL;DR] PR을 성공적으로 하면, 지원서를 제출할 때 기분이 상대적으로 조금은 더
홀가분할 수는 있을지도 모른다. 다만, 자칫 잘못 시도하면 더 위험할 수도 있다.

들어가기 전에, 지원자의 로망
• 관심있는 교수님이/회사가 지원자 본인을 알고 있었으면…
• 실제로 그런 사람들은 있다
• 다만, 내가 아닐 뿐
• 본인을 홍보하는 일은 (당연하게도) 쉬운 일이 아님
• 잘 하면 득이 되겠지만
• 잘못 하면 독이 될 수도 있다
• 가만히 있는 것과의 엄청난 저울질
• 박사 지원의 경우, 지도교수/학생 매칭을 배우자를 고르는 것에 비유해
서 말하곤 한다
• 실제 배우자를 보는 시간보다 지도교수를 보는 시간이 더 많을 수도 있다

배우자를 고르는 상황 vs. 교수와의 매칭
• 만약 내가 배우자를 고를 수 있다면 무엇을 고려할까?
• 당연하게도 각자 취향에 따라 답변이 달라집니다
• 질문) 본인에게 고백한 모든 배우자 후보를, 같은 비중으로 고려할 수 있을까요?
• 반대로 내가 이상형의 사람에게 프로포즈 하고자 한다면 어떻게 할까?
• 생각이 많아지고 신중해지는 것이 당연함
• 지도교수/학생 매칭은, 보통 배우자를 고르는 것에 비유
• “컨택여부: ○” 라고 해서 모든 지원자가 동일한 방법으로 진행했을리가 없다
• 좋은 답변을 받아도 도움이 안된다는 경우, 정말 홍보를 잘 한 경우를 말할까?
• 현실) 회사 연봉은 물론, 박사과정 한 명 지원에 거의 연 1억 가량이 든다
• 당신이 연 1억을 들여 회사 직원을 한 명 고용한다면, 누구를 어떻게 선발하고 싶은가?

아이돌 팬 vs. 본인
• 아이돌 팬은 자신의 아이돌을 보고자…
• 회사 앞에 있거나
• 콘서트에 가거나 등등
• 이유: “여기에는 올 테니까”
• 언제든, 본인을 어필하는 것이 필수는 아님
• 지원자의 입장에서 생각해보면, 높은 확률로 마주칠 장소는 한 곳
• 그렇게 바라보면 학회의 비싼 비용은 마치 결정사의 가입비처럼 느껴질 수도
• 교수님 개개인도 자신의 연구를 홍보합니다. “학회장”에서
• 실제 학회장에 자원 봉사 등으로 와서, 본인을 홍보하는 학생들도 많습니다

내가 스스로를 홍보하겠다고 결심했다면…
• 누구한테 연락할 것인가?
• 질문) 당신은 프로포즈를 눈에 보이는 사람 모두에게 합니까?
• 관심있는 교수님을 파악하는 방법?
1. 논문을 읽어보면서 마음에 들었거나
2. 학과/교수 홈페이지의 자기소개 글을 읽어보거나
3. 기타 본인만의 방법으로
• 언제 연락할 것인가?
• 질문) 내가 고백하고 싶은 상대와 약속을 잡고 싶은데, 인기가 매우 많다면?
• 당신이 연락하고 싶은 교수는 본인 분야에서 세계적으로 가장 유명한 사람임
• 본인의 경우: 보통 2~3주 전 미리 연락, 2~3일 전 즈음 환기
• 이유: 너무 이르면 본인의 연락을 잊어버리기 쉽고, 너무 늦으면 이미 약속이 가득 찰테니

어떤 내용을 보내야 할까?
• 고백에 정답이 없듯, 여기도 정답은 없습니다
• 하지만 언제나 오답은 있지요
• 현실: 교수님이 메일 하나를 3분 이상 읽을 수 있는 경우는 드물다
• 당신이 홍보하고자 하는 대상 = 높은 확률로 남들도 홍보하고 싶은 대상
• 한 교수님 당 0~1명 선발한다고 고려하고 있는게 (현실이 어떠하든) 합리적
• 심지어 당신 메일을 스팸 처리해도 해당 교수님에게 해가 가는 건 전혀 없다
• 강한 인상을 주는데, 왠지 모를 친근감을 주고, 연락하고 싶게??
• (물론 교수님의 이상적인 학생이면 좋겠지만) 머리로 할 수 있는 일들
• 상대방이 친근한 citation들을 사용하거나 예) 해당 랩에서 나온 페이퍼들을 cite
• 부담을 느끼지 않도록 본문을 작성하거나 (필력 이외의 요소들도 있을 수 있다!)
• CV에 연락처를 다양하게 기재해 놓거나 (이메일주소조차도 없다 -> 문제가 심각한 것)

실제로 실행에 옮긴 생각들 (2017년 6월~)
• 지원을 고려하는 관련 분야의 교수와 연구에 관한 대화를 해 보자
• 나와의 (or 내 연구와의) chemistry를 알고 싶다
• 올해 학생을 뽑을 생각이 있는지, 요즘 어떤 분야에 관심이 있는지 궁금하다
• 어떻게 만나자고 해야 할까?
• 학회장에서 5분만 달라고 요청하는 건 부담이 적지 않을까?
• 5분도 못 준다면 나는 정말 관심 없는 지원자가 아닐까?
• 교수님 발표 세션의 break 나 socialize 하는 시간을 가급적 활용하자
• 본인: 학회의 책자를 보고, 미팅을 원하는 교수님이 어디에 참석 하시는지 미리 확인함
• 메일은 가능한 가독성을 높이자
• 이름에 하이퍼링크로 개인 홈페이지 정도는 같이 넣어주자 (홈페이지 내용도 보기 좋게!)
• 본인: 포트폴리오를 만들어서 같이 제공해보자 (각자의 답이 다를 것으로 예상)

일단 나의 현 상황부터 판단 (뭘 부각하지?)
• 연구: top conference papers
(1 accepted, 2 in review, 1 in preparation)
• 당시 뉴욕에서 인턴십 수행 중
• 박사 입학 이전에 연구 조직에 간 경우는 많이 못봤다고 착각함
• 기타: 현업 경력 4년, 학부/석사 GPA
• 얼마나 쓸모 있을지 고민하다가, 맨 뒤에 한 줄 정도 서술

실제로 만들었던 개인 포트폴리오 구성
• 첫 페이지에는 symbol들로 간단히 내 이력과 경험을 노출
• 두번째 페이지에는 내 연구의 overview
• 그 다음에는 진행했던 연구 / 진행중인 연구 / 이후 계획
• 연구를 정리하고
• 나머지 이력을 소소하게 넣자

결과
• 2017년에 총 3개의 학회를 참석함 (CVPR / ICCV / NIPS)
• 관심을 가지고 있던 대부분의 교수님과 학회장에서 인터뷰를 진행함
• 지원 예상 결과를 포함, 교수님과의 fit을 얼추 예상 가능했음
• 관심있던 교수님들로부터 talk / 지원 확인 / visiting scholar 요청 등을 받음
• NIPS가 종료되는 날 visiting scholar offer들 중 하나를 선택함
• 인터뷰를 하지 못했던 교수님들의 경우
• 차후에 너의 메일을 보았는데 답변을 못했었다는 이야기를 차후에 따로 들음

기타 질문) Visiting 이후에 깨닫게 된 것들
• 석사 유학의 경우 coursework을 많이 듣게 되는 경향이 있음
• 박사 진학 희망시, 연구 경험을 위해 아주 적극적으로 구애하고, 엄청나게 노력함
• 유학간 학교 교수님과 연구를 할 수만 있다면, 추천서가 강해질 수 있음 (당연)
• 정보에 밝으면, 새로 교수로 부임하는 학자들을 미리 파악하는 것도 가능
• 가장 학생 선발에 열의가 넘치지만, 반대로 가장 경쟁이 치열할 수도 있음
(fresh Ph.D.의 가치는 높다)
• 반대로 내년에 학생을 뽑기 어려운 교수도 파악 가능한 경우가 존재 (학교 이동 등)
• ML분야 올해 합격한 한국인 학생이 적은 편이다
• 내년에 조금 더 많이 선발될 수 있길 바랍니다. (이 설명회를 열게 된 계기)

마치며
준비 잘 하셔서, 모두 좋은 결과 있으시길 바랍니다.

정리
• 다시 말씀드리지만, “xxx 면 되나요?” 는 성립하지 않는 질문
• 교수님 당 전 세계에서 0~1 명 뽑는다고 생각하는게 합리적임
• 슬프게도, 오히려 아주 강력한 지원자는 늘어나고 있음
• 유학/취업 철저히 준비하셔서 좋은 결과 있으셨으면 합니다
• 감사합니다 J

Q & A
Thanks to...
Juyong Kim, Taehoon Kim, Sewon Min, Jongwook Choi,
Prof. Gunhee Kim, Dr. Yale Song and ... my labmates in SNUVL J

[180718] ML 분야 유학 및 취업 준비 설명회 @SNU

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to [180718] ML 분야 유학 및 취업 준비 설명회 @SNU

Similar to [180718] ML 분야 유학 및 취업 준비 설명회 @SNU (20)

[180718] ML 분야 유학 및 취업 준비 설명회 @SNU