김인중 교수
(한동대)

* 약력
~ 2001.2: KAIST 전산학과 학사/석사/박사 (세부전공: 인공지능)
~ 2006.2: ㈜인지소프트 책임연구원 (MobileReaderTM 팀장)
~ 현재: 한동대학교 전산전자공학부 교수
(전) U.C. Irvine Visiting Scholar
(전) 삼성전자 SW센터 인공지능 기술자문위원, (전) 포스코 AI 전문교수
(전) 전산전자공학부장, (전) 컴퓨터공학전공 Program Director
(현) 한동대 BK21 인공지능사업단장, (현) 한동대 인공지능연구센터장

* 주요연구분야:
딥러닝, 영상분석 및 합성, 음성합성, 자율주행, 데이터 분석 및 예측, 스마트팩토리, 자연어처리

* 주요연구업적
– 2001년 세계 최초의 모바일 한글인식기 개발
– 2012년 국내 최초로 CNN 엔진 자체 개발
– 2016년 세계 최초로 딥러닝을 이용한 T-커머스 방송편성 시스템 개발 및 실용화
– 2017년 국립한글박물관 한글폰트인식기 HanFont 개발 및 실용화
– 2018년 국내대학 최초로 딥러닝 오픈소스 프레임워크 위큐(WICWIU) 공개
– 2020년 최신 딥러닝 기반 TTS FastSpeech2 한글버전 공개
– 국내 최초의 딥러닝 연구자 현재까지 국내외 학회/기업/대학/연구소에서 170여회의 딥러닝 강연

* 주요수상경력
– 2001년 KAIST 전산학과 박사논문 우수논문상
– 2005년 IR52 장영실상 (제품명: Mobile Reader, 49주차)
– 2014년 SW산업발전유공자 국무총리상
– 2018년 정보통신방송유공자 과학기술정보통신부장관상
– 한국정보과학회 및 한국통신학회 우수논문상/우수발표논문상 다수

Flow-based Deep Generative Models (incl. Variational Inference)

Normalizing flow는 간단한 초기 확률분포에 복수의 가역변환(invertible transformation)을 적용함으로써 복잡한 확률분포를 학습하는 생성적 모델이다. GAN에 비해 학습이 안정적이고, VAE에 비해 우도(likelihood)를 더 정확히 학습할 수 있으며, 병렬화가 가능하여 autoregressive model보다 빠르다. 또한, 다양한 작업에 유용한 잠재공간 학습에도 효과적이며 확장성이 우수해 고해상도 샘플을 합성할 수 있다. 이와 같은 장점과 잠재력에도 불구하고 flow 기반의 생성적 모델은 GAN, VAE, autoregressive model에 비해 비교적 덜 주목받고 있다. 본 강의에서는 먼저 variational inference의 기본 개념을 소개한 후 normalizing flow, IAF(inverse autoregressive flow), RealNVP 등 주요 flow 모델들을 소개한다. 그리고, GLOW(Generative flow), Parallel WaveNet, WaveGlow 등 영상 및 음성합성 분야에서 성공적으로 적용된 flow 기반 모델들을 소개한다.

1. 시간별 강의계획(총 3시간)

2. 참고문헌
[1] Rezende et al., Variational Inference with Normalizing Flows, 2016
[2] Kingma et al., Auto-Encoding Variational Bayes, 2013
[3] Oord et al., Pixel Recurrent Neural Networks, 2016
[4] Goodfellow et al., Generative Adversarial Nets, 2014
[5] Bishop, Variational Learning in Graphical Models and Neural Networks
[6] Kingma et al., Improved Variational Inference with Inverse Autoregressive Flow, 2016
[7] Dinh et al., Density estimation using Real NVP, ICLR2017.
[8] Kingma and Dhariwal, Glow: Generative Flow with Invertible 1×1 Convolutions, 2018
[9] Oord et al., WaveNet – A Generative Model for Raw Audio, Sep. 2016.
[10] Oord et al., ParallelWaveNet: Fast High-Fidelity Speech Synthesis, Nov. 2017.
[11] Prenger et al., WaveGlow: A Flow-based Generative Network for Speech Synthesis, Oct. 2018.

딥러닝 기초