목록Fine-tuning (1)

다시 이음

Pytorch - Bert 사용하여 Fine-tuning하기

코드 위주보다는 순서를 확인하여 'BERT 모델을 Fine_tuning 하는 과정'에 집중하려고 합니다. Process 1. 데이터 불러오기 2. 데이터 전처리 직접 pandas를 사용하여 전처리 혹은 Pytorch Dataset 클래스 사용 3. CustomClassifier 클래스 구현 ( 가중치 freeze, unfreeze ) 사전 학습(pre-trained)된 BERT 모델을 불러와 그 위에 1 hidden layer와 binary classifier layer를 쌓아 fine-tunning 모델을 생성 hidden layer 1개와 output layer(binary classifier layer)를 갖는 CustomClassifier 클래스를 구현 4. Iterator 구현 학습 데이터를 배..
Pre_Onboarding by Wanted(자연어 처리) 2022. 3. 8. 20:17
이전 Prev 1 Next 다음