用于翻译的 LLM 与 AI agent 对比及各自可能遗漏的内容

如果你在翻译时于 LLM 和 AI agent 之间进行选择，其标签并不能告诉你可能出现什么问题。单次 LLM 调用可能会毫无征兆地返回一个看似确凿的错误答案。Agent 可能会提出正确的问题，但其执行的每一步都会增加耗时，并带来多一个出错的环节。

有三种不同的事物通常共用“AI agent”这一名称：单次 LLM 调用、同时运行多个模型的工作流，以及在循环中进行规划和操作的 agent。我们在 MachineTranslation.com 上同时运行这三者。以下差异来自于我们在生产环境中的实际运行经验。

核心要点

• 单次 LLM 调用会返回一个答案，且没有任何信号表明该答案是否正确。
• AI agent 会自行选择步骤，因此每增加一个步骤都会增加耗时，并增加一个出错点。
• 多模型共识是一种具有固定路径的工作流，并行运行 22 个模型使得等待时间取决于最慢的模型，而顺序运行它们则会使等待时间变为所有 22 个模型的总和。
• 在一个启动示例中，五个模型翻译了一个包含四个单词的短语，并在 751 毫秒内返回了结果。
• 共识无法捕捉每个模型都以相同方式做出的选择，例如将“good morning”翻译为正式日语，因此 MachineTranslation.com 添加了一个 AI Translation Agent，向用户询问缺失的语境。

在翻译中，LLM 和 AI agent 有什么区别？

LLM 是一个模型。你在一次调用中发送文本并收回文本。AI agent 则是围绕 LLM 构建的系统。 Anthropic 的工程团队 根据由谁决定步骤来区分这两者。在工作流中，代码会提前设定好步骤。在 agent 中，LLM 会自行选择步骤和工具。

这为翻译提供了三种形态。单次 LLM 调用是最简单的，它返回一个答案，且没有任何信号表明该答案是否正确。工作流（例如同时运行多个模型并比较结果）遵循固定路径。Agent 则在循环中工作。它决定做什么、执行操作并检查结果。它还可以在继续之前向用户提问。

单次 LLM 调用只需一步。共识工作流同时向多个模型发送相同文本，然后比较输出。Agent 在规划、行动和检查之间循环往复，并且可以暂停以向用户提问。

AI agent 为翻译带来了什么，又需要付出什么代价？

Agent 能够做出单次模型调用无法做出的决策。它可以询问一个句子是应当正式还是随和。它还可以查阅术语并检查自己的草稿。其中每一步都是一个额外步骤，而每一步都会增加耗时，并带来新的失败隐患。

Anthropic 的建议是从可行的最简设计入手。对于定义明确的任务使用工作流，当任务需要灵活决策时使用 agent。我们也遵循同样的规则。AI Translation Agent 是一个独立的层，仅当句子存在未明确之处（例如文本应有多正式）时才会介入。

多模型共识处于什么位置？

多模型共识是一种具有固定路径的工作流。相同的文本同时发送给每个模型。系统对比输出结果，并返回大多数模型达成一致的版本。Anthropic 将这种通过同时运行多次尝试来提高可信度的做法称为并行化。

工程难题在于时间。如果 22 个模型逐一运行，等待时间将是 22 次调用的总和。它们是并行运行的，因此等待时间取决于池中最慢的模型，正如我们在 Claude 或 ChatGPT 中获取经过验证的翻译指南中所描述的那样。在一次发布示例中，五个模型翻译了一个由四个单词组成的短语，并在 751 毫秒内返回了结果。较长的文本需要更长时间，适用的规则也是相同的。

我们测试了池的大小，最终确定为 22。如果模型数量较少，一致性信号就会减弱。如果模型数量过多，延迟就会逐渐增加。用户看到的是一个结果。让它快速呈现的工作在点击之前就已经完成。

共识会遗漏什么，而 agent 又能捕捉到什么？

共识只能发现模型之间的分歧，因此无法捕捉到每个模型都以相同方式做出的选择。在我们对常用短语的测试中，展示的全部七个模型都将“good morning”翻译成了日语中正式的 おはようございます，这是一个没有人向用户询问过的关于礼貌程度的默认决定。

法语的“Je t'aime”也是同样的情况。各模型在一种译法上达成了一致，但该短语可以表达浪漫之爱、柏拉图式的爱或亲情，直接翻译并未说明是哪一种。当每个模型的回答都相同时，比对步骤就没有任何内容可供比对。

这种差距正是 AI Translation Agent 作为独立层运行的原因。它仅在文本未明确交代时，才会询问语域、受众和语气。共识捕捉存在分歧的模型。Agent 捕捉它们全部默认假定的内容。

AI agent 有哪些不同类型，哪些对翻译至关重要？

人工智能教科书根据智能体做出决策的方式对其进行分类。The 经典列表 涵盖了根据当前输入做出反应的简单反射型智能体、围绕目标进行规划的基于目标的智能体，以及通过反馈不断改进的学习型智能体。

从系统层面来看，顺着列表往上每走一步，都会增加需要维护的状态和循环。翻译从基于目标的一端受益最多，因为翻译往往取决于当前句子未包含的上下文。我们的 AI Translation Agent 正处于这一层。它致力于生成符合上下文的翻译，其主要工具就是向用户提问。

是否存在非 LLM 的翻译模型？

是的，因为 神经机器翻译 系统仅经过在语言之间进行翻译的训练，这使它们成为与通用 LLM 截然不同的一类模型。LLM 家族中的某些模型运作方式也有所不同。大多数 LLM 一次生成一个 token。来自 Inception Labs 的 Mercury 是一种扩散语言模型，能够并行生成文本块，我们在关于将 Gemma 和 Mercury 添加到平台的博文中对此进行了介绍。

神经翻译 API 还是 LLM 哪个更合适，取决于具体任务。神经翻译 API 运行的是专为单一任务构建的模型，而 LLM 则可以遵循指令并利用更多上下文。MachineTranslation.com 的引擎池既包含传统的机器翻译引擎，也包含 LLM，因此一次请求可以使用其中任意一种。

哪些 LLM 在翻译方面最强？

最强的 LLM 取决于语言对和翻译方向，因此我们在平台层面并不单独指定某一个。该引擎池涵盖了 ChatGPT、Claude、Gemini、DeepSeek、Qwen、Grok 以及 Mistral AI。所有模型并行运行，因此添加或更换模型不会增加等待时间。针对特定模型的质量评估结果来自我们的模型对比测试。

AI 智能体如何使用 MachineTranslation.com？

AI 智能体和助手可以调用 MachineTranslation.com 作为工具。MCP 连接器允许付费订阅用户从 Claude、ChatGPT、Copilot 或任何支持自定义连接器的助手中使用它。请求会并行通过包含 22 个模型的同一引擎池，并返回大多数模型认可的版本。对于助手而言，翻译就变成了一次工具调用。模型对比过程由我们处理，对话端只会看到最终结果。

您可以在处理自己的文本时，观察并行运行过程以及智能体提出的问题。将句子粘贴到 MachineTranslation.com 中，模型便会立即运行。智能体仅在句子存在未决之处时才会提问。

常见问题解答