딥러닝

출처
TCP school http://www.tcpschool.com/deep2018/deep2018_deeplearning_intro
유튜브 https://youtu.be/7tf3lKh1pxU
블로그 https://address83.tistory.com/38

탐구동기
머신러닝에 대해 알아보며 유튜브 영상에서 딥러닝의 재발견과 관련한 영상을 시청하게 되었다. 이후
머신러닝의 한 분야인 딥러닝에 대해 탐구해보고 싶어 관련 조사를 시작하였다.
탐구내용
1. 딥러닝이란?

딥러닝은 머신러닝의 한 종류로 여러 층을 가진 인공신경망을 사용하여 머신러닝의 학습을 수행하는 것으로

심층학습으로도 부른다. 이러한 딥러닝은 기계가 자동으로 학습하려는 데이터에서 특징을 추출하여
학습한다는 점에서 인간이 데이터의 어떤 특징을 추출할지 분석하고 판단하는 머신러닝과 차이점이 있다.

2. 인공신경망

머신러닝은 인공신경망(Artificial Neural Network, ANN)을 기본으로 한다.

이러한 인공신경망은 인간의 뇌가 가지는 뉴런의 연결구조를 본떠 만든 네크워크 구조이다.
인간의 뇌에는 약 1000 억개의 수많은 뉴런 즉 신경세포가 존재하며, 하나의 뉴런은 다른 뉴런에게서 신호를
받고 또 다른 뉴런에게 신호를 전달한다. 인간의 뇌는 이러한 수많은 뉴런이 모여 만든 신호의 흐름을
기반으로 다양한 사고를 할 수 있게 되며, 이를 컴퓨터로 구현하려 한 것이 인공신경망이다.
입력층을 통해 학습하고자 하는 데이터를 입력 받고, 입력된 데이터들은 여러단계의 은닉층을 지나면서
처리가 이루어져 출력층을 통해 최종 결과가 출력되게 된다. 이러한 신경망을 3 개 이상 중첩한 구조를 깊은
신경망이라고 부르며, 이를 활용한 머신러닝 학습을 딥러닝이라고 부르는 것이다.
3. 딥러닝 알고리즘
컨볼루션 신경망(Convolutional Neural Network, CNN)

시각 분야에서 다층 퍼셉트론을 이용하며 이론적으로는 학습이 가능하지만 영상의 크기가 커질수록,

학습해야하는 데이터의 크기나 학습시간이 매우 커지게 되며 이미지의 위치, 각도, 크기 변화에도 취약해
진다. 이를 해결하기 위해 지도학습 알고리즘인 컨볼루션 신경망이 등장 하였다. 이는 인간의 시신경 구조를
모방하여 만들어 졌으며 특징을 추출하는 컨볼루션 커널을 도입하여 이미지를 분류하기 위한 학습을
수행한다. 이때, 최대풀링*과 평균풀링*과 같은 서브 샘플링을 통해 이웃하고 있는 데이터 간의 대비율을
높이고 처리해야 할 데이터의 양을 줄인다. 이러한 서브 샘플링 단계를 여러 번 반복하며 이미지의 추상적인
특징을 여러관점에서 추출함으로써 위치에 무관한 특징을 추출하고 학습해야할 매개변수의 수를 감소시켜
빠른 학습속도를 가질 수 있도록 한다.
심층 신뢰 신경망(Deep Belief Network, DBN)

볼츠만 머신*을 여러층으로 쌓아 올린 형태의 신경망이다.

학습데이터가 적을 때 유용한 방식으로 비지도 방식으로 진행된다. 또한 사전 훈련된 RBM 을 층층이 쌓아
올려 만든 모델이다. 첫번째 층 RBM 의 사전 훈련이 완료되면 첫번째 층의 입력 데이터와 매개 변수들을
고정한 채 활성화한 첫번째 층의 은닉 유닛들을 입력으로 하여 두번쨰 층 RBM 을 사전 훈련한다. 이
방식으로 원하는 층수만큼 RBM 을 쌓아올려 DBN 을 완성할 수 있다.

4. 딥러닝의 활용
. 바이두의 음성인식
2014 년 딥러닝 기술중 하나인 순환신경망(RNN)을 이용한 음성인식 프로그램 딥스피치를 발표, 2015 년
딥스피치 2 를 선보인다. 이는 다른 프로그램에 비해 개인의 말투, 사투리, 소음이 심환 환경에서
음성인식정확도를 97%까지 높였다.
. 페이스북의 얼굴인식
얀 레쿤 교수의 페이스북 인공지능 팀은 딥러닝 알고리즘을 활용하여 얼굴인식 프로그램인 딥페이스를
개발하는데 이는 두 사진에 찍힌 인물이 동일인물인지를 판단하는 프로그램으로 97.25%의 정확도를
보이는데, 이는 인간의 눈으로 판단하는 정확도인 97.53%와 거의 비슷한 수준이다.
딥페이스는 동물의 중추신경계를 모방해 만든 인공신경망을 분석에 활용한다. 이 기술을 통해 카메라에 비친
얼굴을 바탕으로 얼굴의 입체를 유추하여 만든 가상 얼굴을 회전시켜 얼굴의 각도를 수정한다. 이러한
가상의 얼굴을 다른 사진의 얼굴과 비교하여 결과를 얻는다.
. 구글의 인공지능화가
딥드림으로 불리는 구글의 이 알고리즘은, 컨볼루션 신경망(CNN)을 활용하여 다양한 이미지를 인식하고
저장한 뒤 해당 이미지의 특징을 뽑아내어 새로운 이미지로 재구성한다.
1

배운점과 느낀점
이번 조사를 통해 딥러닝에 대해 구체적으로 알 수 있어 좋았다. 특히 구글의 인공지능 화가 예시에서는
인간의 창의력을 바탕으로 한 분야까지 인공지능이 범위를 확장한다는 사실이 놀라웠다. 또한 CNN 의
과정에서 이전에 같은 내용을 이해하지 못했었는데 이번 활동을 통해 쉽게 이해 할 수 있어 좋았다.

최대풀링 : 한 대상영역에서 최댓값을 취하는 것

평균풀링 : 대상 영역의 평균을 계산한 것
볼츠만 머신 : 입력층과 하나의 은닉층으로 구성되어있는 신경망 네트워크