다시 이음

안녕하세요. 오늘은 딥러닝과 관련한 도서를 소개하려고 합니다. 두번째 도서는 케라스 창시자에게 배우는 딥러닝 / 출판사 : 길벗 / 프랑소와 숄레 지음 입니다. 난이도 : ★★★★☆ 주요 내용 : 딥러닝 전반에 대한 기본적인 내용과 이해, 소스코드까지 기본을 이해하기 좋은 책이다. 목적 : 딥러닝에 대한 공부를 했지만 하나하나 자세한 내용보다는 실전에 가까운 내용을 배웠는데 기본이 부족하다는 생각이 들었고 기본기를 채우기 위해 좀더 쉽지만 왜? 이걸 이때 사용하는가? 에 대한 조금의 해결책이 되었다. 목차는 접은 글과 같습니다. 더보기 1부 딥러닝의 기초 1장 딥러닝이란 무엇인가? 1.1 인공 지능과 머신 러닝, 딥러닝 1.1.1 인공 지능 1.1.2 머신 러닝 1.1.3 데이터에서 표현을 학습하기 1...

느낀 점 seqGAN은 딥러닝 기본만 배운 입장에서는 섣불리 도전하기에는 복잡한 모델인것 같습니다. 자연어 처리를 할때 필요한 토큰화, 임베딩, 인코딩 등등 여러가지부분을 생각해보고 프로젝트를 설계해야합니다. word2vec을 사용하여 word to index, index to word에 해당하는 dictionary를 만들어서 seqGAN에 적용하는 형태를 주로 형성하고 있습니다. 저는 Fasttext를 통해서 사용해보려고 했으나 Fasttext안에 메소드인 index to word를 사용하여 인코딩 하는 방식이 잘 진행되지 않았습니다. 자소분리를 통하여 정확도를 올리는 작업이 생각보다 효율적인지 모르겠습니다. 자소분리를 적용한 corpus를 다시 원래대로 돌려놓으면 내용이 많이 달라지는 등 좋은 결과가..

안녕하세요. 오늘은 딥러닝 모델을 학습하면서 도움이 되는 callback에 대해서 알아보겠습니다. Callback Tensorflow가 기본적인 Log를 출력해주기는 하지만 훈련이 끝날 때까지 출력되는 Log만 보기에는 효율이 좋지 않습니다. 그래서 Tensorflow는 모델을 훈련시키는 동안 어떤 이벤트들이 발생하면 개발자가 원하는 동작(Callback 함수)을 수행할 수 있는 방법을 제공하고 있습니다. 그것이 바로 Callback 입니다. -tensorflow에서 제공하는 코드를 살펴보겠습니다. import tensorflow as tf from tensorflow import keras #모든 콜백은 keras.callbacks.Callback을 하위 클래스화 해야 함으로 클래스 지정을 해줍니다. ..

안녕하세요. 오늘은 딥러닝의 overfitting(과적합)을 방지할 수 있는 방법에 대해서 알아보겠습니다. Regularization 머신러닝에서 과적합이 생긴 것과 같이 딥러닝에서도 과적합이 발생합니다. 더욱이 신경망 알고리즘에서는 복잡한 구조덕에 훈련데이터에 쉽게 과적합 되는 경향이 있습니다. 이러한 과적합을 방지하는 방법 4가지를 알아볼게요. 1. 조기 종료 (Early Stopping) 조기 종료는 머신러닝의 과적합을 방지하는 방법으로도 소개한 적이 있습니다. 머신러닝과 비슷한 맥락으로 훈련데이터에 대한 손실이 계속 줄어들지만 검증데이터의 손실은 증가한다면 학습을 종료하게 하는 것입니다. # 변수 설정을 따로 하는 방법을 적용하기 위한 코드입니다. batch_size = 10 epochs_max ..

안녕하세요. 딥러닝 파트로 찾아왔습니다. 오늘은 딥러닝의 기본이 되는 퍼셉트론과 인공신경망에 대해서 알아보도록 하겠습니다. 퍼셉트론(Perceptron) 1. 퍼셉트론이란? 우리 신체에 존재하는 뉴런이라는 신경조직을 들어보신 적이 있으신가요? 이러한 뉴런을 본따 만든 퍼셉트론은 신경망의 기본 단위 입니다. 이 퍼셉트론이라는 알고리즘은 무려 1950년대에 고안된 것입니다. 흥미롭죠? 퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 구조를 가지고 있습니다. ❄️ 논리게이트라는 것을 찾아볼까요? (AND,OR,NAND,XOR GATE) - 이를 통해 퍼셉트론에 대해서 좀더 알아볼 수 있습니다. (키워드 : 퍼셉트론의 한계) 인공신경망(Artificial Neural Networks) 2. 인공 ..