对抗式语法错误纠正翻译-简介

语法错误纠正（GEC）的最新工作利用了神经机器翻译（NMT）的进展，从语法错误和纠正的句子的平行语料库中学习重写，从而获得了最新的结果。同时，对抗生成网络（GAN）通过学习直接最小化人类生成的文本与合成的文本之间的差异，已经成功地在许多不同的任务中生成了真实的文本。在这项工作中，我们使用generator-discriminator框架，提出了一种GEC对抗学习的方法。生成器是一个Transformer模型，经过训练可以生成语法正确的句子（给定语法错误的句子）。判别器是一个句子对分类模型，经过训练可以根据语法纠正的质量来判断给定的一对语法纠正的正确句子。我们在并行文本上对判别器和生成器进行预训练，然后使用策略梯度方法对它们进行进一步微调，该策略为能够将错误句子纠正为正确句子的动作赋予高奖赏。在FCE，CoNLL-14和BEA19数据集上的实验结果表明，与基于NMT的基准相比，Adversarial-GEC可以实现具有竞争力的GEC质量。