2024年4月22日 · 生成对抗网络（Generative Adversarial Networks, GANs）作为一种创新的无监督学习模型，自其在2014年由Ian Goodfellow等首次提出以来，已经在图像生成、视频合成、语音转换、数据增强等诸多领域展现出强大的潜力。 然而，原始GAN在训练过程中存在的模式塌陷（Mode Collapse）、训练不稳定等问题，限制了其广泛应用。 为解决这些问题，马库斯·赖兴巴赫等在2017年提出了Wasserstein GAN（简称WGAN），引入了 Wasserstein距离 作为新的损 …

2020年9月28日 · GG-GAN is permutation equivariant and easily scales to generate graphs of tens of thousands of nodes. GG-GAN also strikes a good trade-off between novelty and modeling the distribution statistics, being competitive or surpassing the state-of-the-art methods that are either slower or that are non-equivariant, or that exploit problem-specific ...

所以如果D被训练的过于强，loss会经常收敛到-2log2而没有梯度。 2. 用Ian Goodfellow的那个trick的话，会导致梯度不稳定和 mode collapse。 解决这些问题的就是WGAN。 WGAN提出了Wasserstein距离： W (P_r, P_g) = \inf_ {\gamma \sim \Pi (P_r, P_g)} \mathbb {E}_ { (x, y) \sim \gamma} [||x - y||] \tag {13}

WGAN全称 Wasserstein GAN，顾名思义使用 Wasserstein 距离 （简称 W 距离）代替了经典GAN模型中的JS散度；W距离也被称为 推土机距离 （Earth Mover Distance）;意思是说如果我有两个分布Q和P，那么我要将两个分布的概率部分推成相同分布，平均推土距离最小的方案则为 ...

通过数学变换将Wasserstein距离写成可求解的形式，利用一个参数数值范围受限的判别器神经网络来较大化这个形式， 就可以近似Wasserstein距离 WGAN (Wasserstein GAN)看这一篇就够啦，WGAN论文解读

2025年1月20日 · 生成对抗网络 （Generative Adversarial Networks, GANs）是由Ian Goodfellow等人于2014年提出的一种深度学习模型。 它包括两个主要部分：生成器（Generator）和判别器（Discriminator），两者通过对抗训练的方式，彼此不断改进， 生成器的目标是生成尽可能“真实”的数据，而判别器的目标是区分生成的数据和真实数据。 虽然传统GAN在多个领域取得了巨大成功，但它们也存在一些显著的问题，尤其是 训练不稳定性和模式崩 …

2023年5月3日 · 定义了一种称为Wasserstein GAN的GAN形式，该形式使EM距离的合理有效近似最小化，并且本文从理论上证明了相应的优化问题是合理的。 WGAN解决了GANs的主要训练问题。 特别是，训练WGAN不需要维护在鉴别器和生成器的训练中保持谨慎的平衡，并且也不需要对网络架构进行仔细的设计。 模式在GANs中典型的下降现象也显著减少。 WGAN最引人注目的实际好处之一是能够通过训练鉴别器进行运算来连续地估计EM距离。 绘制这些学习曲线不仅对调试 …

在本文中，我们将介绍 Wasserstein GAN (WGAN) 中的一种生成对抗网络 (GAN)。 我们将了解这些 WGAN 生成器和鉴别器结构的工作原理，并详细介绍其实现细节。 对于想要培训该项目的观众，我建议观众查看该网站并同时实施该项目。 生成对抗网络（GAN）是人工智能和深度学习领域的一项巨大成就。 自最初推出以来，它们一直被用于开发壮观的项目。 虽然这些 GAN 及其竞争的生成器和判别器模型能够取得巨大成功，但这些网络也有一些失败的案例。 两个最常见的原因 …

2017年8月6日 · We introduce a new algorithm named WGAN, an alternative to traditional GAN training. In this new model, we show that we can improve the stability of learning, get rid of problems like mode collapse, and provide meaningful learning curves useful for debugging and hyperparameter searches.

2019年8月6日 · 作者在原始论文中提到，在真正优化G的时候 $log (1-D (G (z))$ 可能无法给G提供 足够的梯度，于是可以通过maxmize $log (D (G (z))$ 的方式来更新G。 而在WGAN的 前序论文 中，证明了这两种优化G的方式都是有一定问题的。