【这和ELBO 梯度估计前一半是一样的，后一半用Pyro代码解释】
问题
对于观察（observation）和隐变量
，其联合概率密度为
变分分布为。这里的
和
为模型（model）和变分分布（guide）的参数。【注：所谓变分就是将原始函数换作另一（易处理的）函数的数学技巧】
目标为最大化证据（evidence）的对数形式。而通常做法是最大化“（对数的）证据下限”ELBO（evidence lower bound），其形式如下：
ELBO和证据的对数，二者之差为：
ELBO的无偏梯度估计为：
我们考虑一个更一般的形式：
【注：这里的指代更一般化的参数，和ELBO中狭义的
不同。】
易处理的情况：可重参数化的随机变量
假如我们能够对随机变量重参数化为
也就是说，我们把对依赖的项，全部放在求期望的范围里（即用E给“框”在里面），这时候
就不再依赖于
了。
这样的重参数化操作，可以对许多分布使用（比如高斯分布）。这样我们就得到梯度估计：
这里假定和
都是光滑的（即可导的），我们就可以用蒙特卡洛法（将多次观察求平均）求解上述无偏的梯度估计了。
取巧的情况：非重参数化的随机变量
如果不能使用重参数化，例如分布是离散的，这时上面的技巧就不管用了。
我们将梯度估计量展开：
由链式法则，我们继续展开：
对于存在恒等式
代入上式得：
我们把求期望和梯度的项写在一起，称为“代理目标”（surrogate objective）：
于是ELBO的梯度无偏估计为
。
的横线表示该项对
来说是常数，不对
求导数。
减少梯度估计的方差
考虑下面的等式:
其中为任意的常数。这是因为：
于是，对于，我们利用上述等式，用下面的项代替：
二者的梯度的期望是相同的。更妙的是，不必是常数，只要对下游任务没有影响即可。所以
可设为上游任务，自变量为
的函数。
参考文献：http://pyro.ai/examples/svi_part_iii.html
