본문 바로가기

NLP/error

[error] 파라미터 제대로 frozen 하세요

저처럼 미친 짓하시면 안 됩니다....

 

 

잘못된 예시

model.requires_grad = False

 

문제는 위 코드를 넣고 돌려도 에러가 발생하지 않아 GPU 사용량이 달라지거나 파라미터를 따로 확인하지 않는 한, 

 

 

제대로 된 예시

for param in model.parameters():
    param.requires_grad = False

 

 

어떤 블로그에서 보고 그대로 긁어서 했었는데 그 블로그가 잘못된 것 같아요. 물론 지금 검색해보니 좋은 자료가 많이 나오네요. 제 불찰입니다. 여하튼 반복하지 않기를 바라며 강조해봅니다.