Deep encoder-decoder based CNNs have advanced image inpainting methods for hole filling. While existing methods recover structures and textures step-by-step in the hole regions, they typically use two encoder-decoders for separate recovery. The CNN features of each encoder are learned to capture either missing structures or textures without considering them as a whole. The insufficient utilization of these encoder features limit the performance of recovering both structures and textures. In this paper, we propose a mutual encoder-decoder CNN for joint recovery of both. We use CNN features from the deep and shallow layers of the encoder to represent structures and textures of an input image, respectively. The deep layer features are sent to a structure branch and the shallow layer features are sent to a texture branch. In each branch, we fill holes in multiple scales of the CNN features. The filled CNN features from both branches are concatenated and then equalized. During feature equalization, we reweigh channel attentions first and propose a bilateral propagation activation function to enable spatial equalization. To this end, the filled CNN features of structure and texture mutually benefit each other to represent image content at all feature levels. We use the equalized feature to supplement decoder features for output image generation through skip connections. Experiments on the benchmark datasets show the proposed method is effective to recover structures and textures and performs favorably against state-of-the-art approaches.

中文翻译：

---

通过具有特征均衡的互编码解码器重新思考图像修复

基于深度编码器-解码器的 CNN 具有用于孔填充的高级图像修复方法。虽然现有方法在空洞区域逐步恢复结构和纹理，但它们通常使用两个编码器 - 解码器进行单独恢复。学习每个编码器的 CNN 特征以捕获缺失的结构或纹理，而不将它们视为一个整体。这些编码器功能利用不足限制了恢复结构和纹理的性能。在本文中，我们提出了一个相互编码器 - 解码器的 CNN，用于两者的联合恢复。我们使用来自编码器深层和浅层的 CNN 特征分别表示输入图像的结构和纹理。深层特征发送到结构分支，浅层特征发送到纹理分支。在每个分店，我们在 CNN 特征的多个尺度上填充空洞。将来自两个分支的填充 CNN 特征连接起来，然后进行均衡。在特征均衡期间，我们首先重新权衡信道注意力并提出双边传播激活函数以实现空间均衡。为此，填充的结构和纹理的 CNN 特征相互受益，以在所有特征级别表示图像内容。我们使用均衡特征来补充解码器特征，通过跳过连接生成输出图像。在基准数据集上的实验表明，所提出的方法可以有效地恢复结构和纹理，并且与最先进的方法相比具有良好的性能。在特征均衡期间，我们首先重新权衡信道注意力并提出双边传播激活函数以实现空间均衡。为此，填充的结构和纹理的 CNN 特征相互受益，以在所有特征级别表示图像内容。我们使用均衡特征来补充解码器特征，通过跳过连接生成输出图像。在基准数据集上的实验表明，所提出的方法可以有效地恢复结构和纹理，并且与最先进的方法相比具有良好的性能。在特征均衡期间，我们首先重新权衡信道注意力并提出双边传播激活函数以实现空间均衡。为此，填充的结构和纹理的 CNN 特征相互受益，以在所有特征级别表示图像内容。我们使用均衡特征来补充解码器特征，通过跳过连接生成输出图像。在基准数据集上的实验表明，所提出的方法可以有效地恢复结构和纹理，并且与最先进的方法相比具有良好的性能。我们使用均衡特征来补充解码器特征，通过跳过连接生成输出图像。在基准数据集上的实验表明，所提出的方法可以有效地恢复结构和纹理，并且与最先进的方法相比具有良好的性能。我们使用均衡特征来补充解码器特征，通过跳过连接生成输出图像。在基准数据集上的实验表明，所提出的方法可以有效地恢复结构和纹理，并且与最先进的方法相比具有良好的性能。