rnn

    09_순환신경망 RNN

    CNN이 컴퓨터 비전 문제에 주로 사용되는 인공신경망이라면, 순환신경망은 자연어 처리 문제에 주로 사용된다. 조금더 정확히 말하면 시계열 데이터를 다루기에 쵲거화된 인공신경망이다 시계열 데이터란, 시간축 중심으로 현재 데이터가 앞,뒤 시간 데이터와 연관 관계를 가지고 있는 데이털르 의미한다. 주식 가격은 시계열 데이터의 예이다. RNN은 중간에 순환되는과정이 추가되는 부분 말고는 ANN과 거의 비슷하다. 이 구조는 이전상태에 대한 정보를 일종의 메모리 형태로 저장할수 있다는 강력한 강점이 있다. 인간의 언어 같은 경우도 앞뒤 문맥에 의해 결정되므로 RNN을 적용하기 적합하다. Vanishing Gradient Problem ( 경사도 사라짐 문제 ) 1에서 받은 영향력은 시간이 지나가면서 점점 사라지게 ..