深入理解GAN网络

Generative Adversarial Networks创造性地提出了对抗训练来代替人工指定的loss。之前的文章初步理解了一下，感觉还是不到位，在这里再稍微深入一点。

交叉熵cross entropy

鉴别器是GAN中重要的一部分，鉴别器和生成器交替训练的过程就是adversarial training的过程。而鉴别器的本质是一个二分类网络，所以要理解gan loss，就首先要熟悉二分类中经典的交叉熵。

交叉熵中的“交叉”指的是对数部分使用的概率分布和加权求和部分使用的概率分布不同。具体而言，对数部分使用的是预测的结果，而加权求和部分使用的是真实标签的分布。所以二分类的交叉熵为：

注意上面公式中的.表示乘积，并且等式右边应该整体取负数。

鉴别器discriminator

当鉴别器输入为真实数据，

预测结果	标签	交叉熵的负数
D(X)	1

当鉴别器输入为生成器的输出，

预测结果	标签	交叉熵的负数
D(G(Z))	0

这两个交叉熵取负的曲线如下所示：

因为上述曲线没有考虑负号，所以应该是取最大值时损失函数最小，结合横坐标取值范围是0~1，所以鉴别器的优化目标是上图中箭头所指的位置。对应公式为：

生成器Generator

生成器和鉴别器做对抗，所以优化目标正好是上式最小：

但其实生成器只参与上式中的第二项。可以看到，为了使第二项最小， $D(G(Z))$ 要逼近1，这意味着生成器的目标是让鉴别器认为生成器的结果是真。

The Generator needs to fool the discriminator by generating images as real as possible.

需要说明的是，虽然生成器G的目标是log(1 − D(G(z)))和D(G(z))=1是一致的，但一开始生成器很弱，鉴别器可以轻松区分开来，所以在训练前期可以使用D(G(z))来获得更大的梯度。

进一步理解

交替训练

把生成器和鉴别器的优化目标合并在一起，可以写为：

这个公式优美地表示了生成器和鉴别器的优化方向是共线的，只不过方向正好相反。既然方向相反，那就不能同步训练，而是要交替进行：

The adversarial loss can be optimized by gradient descent. But while training a GAN we do not train the generator and discriminator simultaneously, while training the generator we freeze the discriminator and vice-versa!

不平衡

整体上看D和G是交替训练，但是比例却不同。D更新时有k step，G却只有1 step。这样只要G更新足够慢，D就可以一直保持在最优解附近。

这其实和受限玻尔兹曼机（Restricted Boltzmann Machine）有关。相关中文资料，英文资料。

受限玻尔兹曼机由多伦多大学的 Geoff Hinton 等人提出，是一种可通过输入数据集学习概率分布的随机生成神经网络。随机指的是如果神经元被激活时会产生随机行为；受限指的是同一层的不同节点之间是不进行通信的，而不同层之间会有信息双向流动，并且权值相同。

但是到这里仍然没有为什么D需要训练k step，有更懂的朋友可以解释一下。我的理解是D对于整个GAN网络的效果很关键，是需要维持在一个很高的水平。但一开始G很弱，D可以很轻松区分开来，没必要训练那么多次。所以一种可取的策略是先训练生成器k1次，然后再训练判别器k2次，然后再交替训练。

损失函数

我们知道有很多映射关系是无法准确写出表达式的，而CNN的本质是基于 Universal Approximation Theorem，可以实现对任意函数的拟合。为了去衡量CNN的好坏，还是需要Explicit loss function来指导CNN中的梯度更新。

Explicit loss function的问题是它需要人工指定，并且是和任务相关的，比如：

L1 loss (Absolute error)	Used for regression task
L2 loss (Squared error)	Similar to L1 but more sensitive to outliers.
Cross-entropy loss	Usually used in classification tasks.
Dice loss (IoU)	Used in segmentation tasks.
KL Divergence:	For measuring the difference between two distributions.