정보과학회 KSC2019 튜토리얼 Deep Bayesian Neural Nets
https://www.kiise.or.kr/conference/main/getContent.do?CC=KSC&CS=2019&PARENT_ID=011100&content_no=1121
정보과학회 KSC2019 튜토리얼 (2019.12.20)
Deep Bayesian Neural Nets
|
김인중 교수
(한동대)
|
* 약력
~ 2001.2: KAIST 학사/석사/박사
~ 2006.2: ㈜인지소프트 책임연구원 (Mobile Reader 팀장)
~ 현재: 한동대학교 전산전자공학부 교수
* 주요 연구업적
– 2001년 세계최초의 모바일 한글인식기 개발
– 2012년 국내최초로 CNN 자체 엔진 개발
– 2016년 세계최초로 딥러닝을 이용한 T-커머스 방송편성 시스템 개발 및 실용화
– 2018년 국내대학최초로 딥러닝 오픈소스 프레임워크 위큐(WICWIU) 공개
– 현재까지 국내외 학회/기업/대학/연구소에서 100여회의 딥러닝 강연
* 주요관심분야: 딥러닝 알고리즘 개발 및 응용, 딥러닝 기반 영상인식/변환, 음성합성, 자연어처리
* 주요 수상경력
– 2001년 KAIST 박사논문 우수논문상 (전산학과)
– 2005년 IR52 장영실상 (제품명: Mobile Reader, 49주차)
– 2014년 SW산업발전유공자 국무총리상
– 2018년 정보통신방송유공자 과학기술정보통신부장관상
– 정보과학회 및 통신학회 우수논문상/우수발표논문상 4회
|
| 강연제목
Deep Bayesian Neural Nets
|
| 강연요약
일반적인 신경망이 고정된 값을 출력하는 반면 베이지안 신경망은 확률 분포를 갖는 랜덤변수를 출력한다. Bayesian 신경망은 신경망에 비해 불확실성을 모델링할 수 있고 오버피팅이 적은 점 등의 장점을 갖는다. 본 강의에서는 베이지안 이론, 가우시안 프로세스(Gaussian Process)과 베이지안 신경망을 설명하고 Deep Bayesian Model에 사용되는 기법들을 소개한다.
|
|
1. 시간별 강의계획
| 시간 |
주제 |
주요내용 |
| 1 |
Bayesian Theory |
Bayesian model의 개념, Bayesian inference
Bayesian parameter estimation |
| 2 |
Gaussian Process |
Gaussian Process
Bayesian Regression
Overview of Bayesian Deep Learning |
| 3 |
Deep Bayesian Models |
Practical Techniques for BNN |
2. 참고문헌
[1] Wilson, Bayesian Deep Learning, Toronto Deep Learning Summer School 2018
[2] Do, Gaussian Process (cs229)
[3] Mullachery, et al., “Bayesian Neural Networks,” Jan. 2018. (https://arxiv.org/abs/1801.07710)
[4] Kendall and Gal, “What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision?” Mar. 2017. NIPS2017
그 외 다수
|