목록attention (1)

다시 이음

딥러닝(8) - RNN(Recurrent Neural Network, 순환 신경망)

안녕하세요. 오늘은 연속된 데이터를 처리하기 위한 새로운 신경망 구조인 RNN에 대해서 알아보려고 합니다. 언어 모델 (Language Model) 언어 모델이란? 언어 모델은 단어 시퀀스(문장)에 각 단어의 확률을 할당(assign),계산하는 모델입니다. 가장 보편적으로 사용하는 방법은 앞 단어들이 등장했을 때, 다음 단어를 예측하도록 하는 것이며 이것은 특정 단어가 등장할 확률을 조건부 확률로 구하게 됩니다. 언어 모델을 만드는 방법은 크게는 통계를 이용한 방법과 인공 신경망을 이용한 방법으로 구분할 수 있습니다. 통계적 언어 모델 (Statistical Language Model, SLM) 단어의 등장 횟수를 바탕으로 조건부 확률을 계산합니다. 전체 말뭉치 안에서 첫번째 단어가 나오는 확률을 구하고..
AI 일별 공부 정리 2021. 10. 27. 20:16
이전 Prev 1 Next 다음