ASAM (pending)

rosinality StyleGAN2-pytorch 기반 few-shot GAN ada 에 SAM optimizer 를 적용해보는 실험

 

train_sam.py 파일 복제

sam.py 생성 (https://github.com/davda54/sam )

train_sam.py에서 optimizer 관련 수정

 

optimizer 객체 생성하는 부분

loss update 하는 부분

 

 

+ self.param_groups(파라미터 그룹)에서 key로 값을 가져오지 못하는 문제 발생하여

찍어봤더니 dict이 아니라 한 개 요소가 든 list.

 

__init__ 함수에 추가해줌: self.param_groups = self.param_groups[0]

 

그러나 …

사전학습 시에 사용된 optimizer 랑 SAM optimizer의 파라미터 형식(?)이 일치하지 않아 문제 발생

 

+ 적대 모델에 SAM을 적용하는 게 괜찮을지 고민이 필요함

일단 다음에 사용해보기로!!