[NLP]Polyglot finetuning 방법 / 토크나이저 정리 / huggingface 업로드관련
Polyglot finetuning 12.6b-8bit TestPolyglot finetuning 방법엔 여러가지가 존재Koalphaca, OSLO를 이용한 예제 등Finetuning를 진행할 시 대부분의 학습된 모델들이 깃헙에 같이 업로드 되어 있는finetune.py 를 이용하여 진행 Transfer learning 와 Fine Tuning 차이점전이학습(Transfer learning)데이터의 수가 많지 않거나 데이터를 확보하는데 많은 비용이 드는 경우 사용학습된 신경망의 일부 능력을 유사하거나 전혀 새로운 분야에서 사용되는 신경망의 학습에 이용하는 방법학습된 신경망을 pretrained model이라 부르며, 이 모델을 가지고 적용하려는 상황에 맞게 모델의 가중치를 약간씩 변화하여 사용CNN을 이..
2024. 6. 11. 16:36