论文阅读五十三：GAN已死；GAN万岁！现代GAN基线

发表于2025-01-15|更新于2025-01-15|GAN

|浏览量:

摘要

人们普遍认为GAN难以训练，文献中的GAN架构充斥着经验技巧。我们提供了反对这一说法的证据，并以更有原则的方式建立了一个现代GAN基线。首先，我们推导出了一个行为良好的正则化相对论GAN损失，它解决了之前通过一系列特殊技巧解决的模式下降和不收敛问题。我们从数学上分析了我们的损失，并证明它允许局部收敛保证，这与大多数现有的相对论损失不同。其次，这种损失使我们能够抛弃所有临时技巧，用现代架构替换普通GAN中使用的过时骨干网。以StyleGAN2为例，我们提出了一个简化和现代化的路线图，该路线图产生了一个新的极简主义基线——R3GAN（“Re-GAN”）。尽管简单，但我们的方法在FFHQ、ImageNet、CIFAR和Stacked MNIST数据集上超越了StyleGAN2，并与最先进的GAN和扩散模型进行了比较。论文地址

文章作者: Serge Wang

文章链接: https://sergewang.github.io/2025/01/15/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E4%BA%94%E5%8D%81%E4%B8%89%EF%BC%9AGAN%E5%B7%B2%E6%AD%BB%EF%BC%9BGAN%E4%B8%87%E5%B2%81%EF%BC%81%E7%8E%B0%E4%BB%A3GAN%E5%9F%BA%E7%BA%BF/

版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Model The World！

论文阅读 GAN

相关推荐

论文阅读一：高效扩散模型：从原理到实践的全面综述

论文阅读三：生成的表示对齐（REPA）：训练扩散变换器比你想象的要容易

论文阅读二：成像和视觉扩散模型教程

论文阅读七：LLaMA-Factory：100多种语言模型的统一高效微调

摘要高效的微调对于使大型语言模型（LLM）适应下游任务至关重要。然而，在不同的模型上实现这些方法需要付出巨大的努力。我们介绍LLAMAFACTORY，这是一个整合了一套尖端高效训练方法的统一框架。它提供了一种解决方案，可以灵活地定制100多个LLM的微调，而无需通过内置的web UI LLAMABOARD进行编码。我们实证验证了我们的框架在语言建模和文本生成任务上的效率和有效性。它已发布于 https://github.com/hiyouga/LLaMA-Factory ，并获得了25000多颗星和3000个fork。引言大型语言模型（LLM）（赵等人，2023）具有显著的推理能力，并赋予了广泛的应用，如问答（Jiang等人，2023b）、机器翻译（Wang等人，2023c；Jiao等人，2023a）和信息提取（Jiao等人（2023b））。随后，大量LLM被开发出来，并可通过开源社区访问。例如，Hugging...

论文阅读三十一：3D高斯溅射用于实时辐射场渲染

辐射场方法最近彻底改变了用多张照片或视频捕获的场景的新颖视图合成。然而，实现高视觉质量仍然需要训练和渲染成本高昂的神经网络，而最近更快的方法不可避免地会以速度换取质量。对于无界和完全场景（不是独立物体）和1080p分辨率渲染，当前没有方法可以取得实时显示速率。我们引入三个关键因素，允许我们取得先进视觉质量，同时保持有竞争力的训练次数，并且重要的是，允许1080分辨率的高质量实时（ ≥30fps\ge 30 fps≥30fps...

论文阅读三十七：Mamba：具有选择性状态空间的线性时间序列建模

数据加载中