yeon's

이 글은 허깅페이스를 참고한다.https://huggingface.co/transformers/v4.6.0/_modules/transformers/models/clip/modeling_clip.html 보통 모델이 필요하면 허깅페이스에서 그대로 가져와서 파인튜닝을 하거나 모델의 뒷단만 조금 수정해서 새로 튜닝하는 식으로 사용한다. 하지만 이미 완성되어 패키징 되어있는 모델을 그냥 가져와 사용하니 내가 바꾸고 싶은 부분을 변경하기가 쉽지 않고, 무엇보다 내부 구조를 완벽히 이해하지 않고 사용하게 되는 경우가 많아졌다.따라서 이번에는 모델의 안쪽 구조도 내가 원하는 방향으로 바꿔보고 싶어 대표적인 모델 중 CLIP 소스코드를 허깅페이스에서 직접 가져와 분석해보았다.허깅페이스에서 CLIP을 가져와보면 큰 구조..