AI字幕慢半拍 不知道大家笑什么： (新方法让)同传、性能直逼离线翻译

本文第一作者是徐婷，是香港中文大学博士生，主要研究兴趣是大模型的后训练；通讯作者分别是黄志超和程善伯，来自字节跳动Seed团队。

你是否经历过这样的场景：观看一场激动人心的全球发布会，AI字幕却总是慢半拍，等你看到翻译，台上的梗已经冷掉了。

或者，在跨国视频会议上，机器翻译的质量时好时坏，前言不搭后语，让人啼笑皆非。

这就是同声传译（SimultaneousMachineTranslation,SiMT）领域一直以来的核心技术挑战：“质量-延迟”权衡问题（Quality-LatencyTrade-off）。

现在，这些问题迎来了新的解决方案。来自香港中文大学、字节跳动Seed和斯坦福大学的研究团队联手提出了一种面向同声传译的序贯策略优化框架(SequentialPolicyOptimizationforSimultaneousMachineTranslation,SeqPO-SiMT)。

该方法将同传任务巧妙地建模为序贯决策过程，通过优化完整的决策序列，显著提升了翻译质量，同时有效控制了延迟，其性能直逼、甚至在某些方面超越了同等大小的离线翻译模型。

论文标题:SeqPO-SiMT:SequentialPolicyOptimizationforSimultaneousMachineTranslation

研究背景

同声传译的核心在于机器需要动态地决定“继续听”（READ）还是“开始说”（WRITE）。这个决策直接影响最终的翻译效果。例如，当模型接收到英文单词“bark”时，它面临一个困境：如果立即翻译，可能会译为“狗叫”，但若后文出现“ofthetree”，则正确翻译应为“树皮”。

传统的同传方法，它每一步决策（是继续听，还是开始翻译）都是孤立的。它可能会因为眼前的“小利”（比如翻译出一个词）而牺牲掉全局的“大利”（整个句子的流畅度和准确性）。

核心方法

针对这一难点，该论文提出了SeqPO-SiMT框架。其核心思想是将同声传译任务建模为一个序贯决策问题，综合评估整个翻译流程的翻译质量和延迟，并对整个决策序贯进行端到端的优化。

该方法的主要特点是：它不再孤立地评估每一步决策的好坏，而是将一整句话的翻译过程（即一个完整的决策序贯）视为一个整体，更符合人类对同传的评估过程。

其中，λ是一个超参数，用于权衡质量与延迟的重要性。

实验结果与分析

为了验证方法的有效性，研究者们在多个公开的英汉互译测试集上进行了实验，并与多种现有的同传模型进行了对比。实验结果显示：在低延迟水平下，SeqPO-SiMT框架生成的译文质量相较于基线模型有明显提升。

本文将SeqPO-SiMT的实时同传结果与多个高性能模型的离线翻译结果进行对比。结果显示，SeqPO-SiMT的翻译质量不仅优于监督微调（SFT）的离线模型及LLaMA-3-8B，其表现甚至能媲美乃至超越Qwen-2.5-7B的离线翻译水平。这表明该方法在70亿参数（7B）规模上实现了业界顶尖（SoTA）的性能。

总结与讨论

总的来说，SeqPO-SiMT这项工作的主要贡献在于，为解决同声传译中的质量-延迟权衡问题提供了一个新的视角。它强调了对决策“序贯”进行整体优化的重要性。该研究提出的方法，对于需要进行实时、连续决策的自然语言处理任务具有一定的参考意义，并为未来开发更高效、更智能的同声传译系统提供了有价值的探索。