RNN은 시계열 데이터를 다루는 데 적합한 신경망으로, 변화하는 데이터의 추세, 주기, 시간을 뛰어넘는 관련성 등을 포착해 나가는 기법이다. 이때 은닉층의 출력이 다시 은닉층의 입력으로 순환하는 구조를 가져 재귀(Recurrence)라고 불린다.
RNN은 일반적인 인공 신경망과 달리 순서가 있는 정보를 입력 데이터로 활용하는 신경망을 의미한다. 즉 일반적인 신경망의 경우 입출력 정보가 서로 독립적이라고 가정하는데, 이는 실제로 많은 현실 문제를 정확하게 모델링하는 데 뚜렷한 한계가 있다.
예를 들어 문장을 입력 데이터로 받아 다음에 출현할 단어를 예측하는 경우, 데이터 간 종속성을 고려하지 않은 일반 신경망을 활용하는 것보다 시간의 흐름을 고려한 RNN을 활용하는 것이 효과적이다. RNN은 일반적인 인공 신경망과 달리 재귀라는 용어가 그 의미를 내포하듯, 이전에 입력한 데이터와 지금 입력한 데이터를 동시에 고려해 출력값을 결정한다.
즉 RNN은 임의의 시점 t까지 계산된 결과를 기억...
#
GRU
#
코사인유사도
#
재귀
#
인공지능
#
시계열데이터
#
순환신경망
#
말뭉치
#
RNN
#
RecurrentNeuralNetwork
#
LSTM
#
토큰