정의

P(z|x) 를 다루기 쉬운 확률분포 q(z) 로 근사하는 것

EM algorithm

Evidence Lower Bound(ELBO) = variational lower bound

EqΦ(z|x)[log(p(x|z))] - KL(qΦ(z|x)||p(z))

Untitled

첫 째, 이상적인 샘플링 함수로 부터 생성한 z값으로부터 (Training DB에 있는) input data와 유사한 데이터를 생성해줘 ← Generation

둘 째, 이상적인 sampling함수의 값이 최대한 prior값과 같도록 만들어줘  ← Condition

LDA

def performLDA(self):
	for iteration in range(self.numIterations):
	# E-step: learning phi and gamma
	# variational parameter 초기화
	self.phi = []
	self.gamma = zeros(shape = (self.intNumDoc, self.intNumTopic), dtype=float)
	for d in range(self.intNumDoc):
		self.phi.append(zeros(shape=(self.numWordPerDoc