KL-divergence (1) 썸네일형 리스트형 [용어정리] ELBO 최근에 논문을 읽다가 'ELBO(Evidence Lower Bound)' 라는 용어를 발견했다. 최대한 모른 척하고 넘어가려고 했으나, loss 의 핵심이라 찾아볼 수 밖에 없었다. 다행히 정말 멋진 사람들이 정리를 잘 해둬서 나는 그걸 초심자의 입장에서 순서와 배치만 다듬어서 올리고자 한다. 다시 한 번 좋은 글을 써주신 공로에 감사를 드린다. 나는 초보자의 관점에서 글을 재구성해보고자 한다.ELBO 의 이해를 돕기 위한 예시목적: 내 키를 구하라 ↔ VAE 의 분포를 구하자문제: 직접 재는 게 불가능하다 ↔ 직접 구하는 게 불가능하다해결책: 나보다 확실히 작은 친구 중 가장 큰 키를 구하자 ↔ 목적 함수에 근사한 식의 최댓값을 구하자이 해결책의 이름이 'ELBO' 다. 이게 다다. 이걸 생각하면서 .. 이전 1 다음
