如何衡量语言学家的生产力?
语言学家的工作效率是通过质量调整后的产出来衡量的:每个工作流程步骤和每种语言完成的加权字数、每个语言学家对收到的文本的修改量(编辑距离)、他们的工作被退回的频率以及他们交付成果的质量评分,这些指标综合起来而不是作为一个数字来解读。在 Smartling 中,这些输入来自字数统计报告、字符串更改报告、LQA 报告和数据访问工具的翻译质量表现 - 90 天数据集。单凭每天的字数本身会奖励错误的行为,因为翻译记忆库的利用、机器翻译质量和内容类型都会改变每个字所代表的工作量。
上次审核日期:2026年10月15日
为什么每天的词汇量并不能准确衡量语言学家的生产力?
每天的字数统计具有误导性,因为相同的字数可能代表非常不同的工作量。几乎每个节目中都会出现五种失真现象:
- 利用翻译记忆库改变了工作方式。一个准确率在 95% 到 99.9% 之间的字符串模糊匹配需要轻柔处理,而无匹配项的字符串则需要从头开始翻译。加权词(将每个词乘以其模糊匹配率)可以消除大部分这种失真;而原始源词则不能。
- 机器翻译质量因字符串而异。即使效果一样好,由后期编辑处理被 Smartling 语言质量评估代理标记为“低”的字符串,其处理速度也会比由一名编辑处理“高”的字符串慢。必须在同一预测质量范围内比较生产率。
- 字数统计记录的是学分,而不是努力程度。Smartling 帮助中心的文章“字数统计和估算详解”描述了字数统计报告的用途,即跟踪和开具已完成工作的发票:编辑和审核步骤在提交时会被计入,无论是否进行了任何更改;被拒绝、修改和重新提交的字符串只计入一次。如果审稿人同意所有内容不变,那么他/她获得的字数奖励与修改每个字符串的审稿人获得的字数奖励相同。
- 语言和内容类型不可互换。Smartling 按字符数而不是单词数来计算中文和日文内容,而法律文案、用户界面字符串和营销翻译对每个单词的投入要求各不相同,因此,跨语言的每日单词目标具有可比性。
- 速度而质量不高,只会降低成本。语言学家如果交付速度快,但经常被拒稿和修改,就会给其他人造成返工,而如果只看吞吐量,就会把返工算作生产力。
哪些指标能够公平地衡量语言学家的生产力?
一个公平的衡量标准结合了四个指标和三个归一化变量,因此每个数字都应该在其产生时的语境中解读:
- 加权字数吞吐量——每个语言学家、每个工作流程步骤类型(翻译、编辑、审校、后期编辑)和每种语言在固定时间内完成的加权字数。加权词已经忽略了翻译记忆库中的匹配项,因此,语言学家在处理高权重内容方面的作用并没有被夸大。
- 编辑后工作量(编辑距离) ——语言学家在收到的文本和提交的文本之间更改的字符或单词数量。对于后期编辑来说,它显示了机器输出需要多少内容;对于译者来说,审校人员在下游应用的编辑距离显示了他们的工作有多少被重写。Smartling 的字符串更改报告记录每个步骤的编辑距离、编辑单词距离和编辑发布距离。
- 返工率——被退回给语言学家的字符串数除以语言学家提交的字符串数。拒绝操作会在字符串更改报告中记录为“拒绝”工作流程操作,从而将返工从轶事变成计数。
- 交付作品的质量——根据 LQA 的相同方案,以 MQM 分数和每 1,000 个单词的错误密度来衡量。分数的计算方法在翻译质量评分工作原理中有所介绍。
- 规范化器,而不是指标——模糊匹配带、语言质量评估级别和内容类型。比较语言学家时,只能比较同一级别、同一语言和同一内容类型的语言学家,否则比较结果只能衡量工作组合,而不能衡量个人能力。
- 活动时间需谨慎使用——编辑所花费的时间可以解释吞吐量的变化,但会惩罚研究、术语查询和仔细检查,因此应将其视为工作量讨论的诊断指标,而不是分数。
Smartling 中语言学家生产力数据存储在哪里?
八份有据可查的报告和衡量指标为生产力分析提供了原始素材:
| 报告或衡量 | 它增加了什么 | 记录细节 | 原文 |
|---|---|---|---|
| 字数统计报告 | 语言学家的吞吐量 | 可按机构、译员、翻译语言和工作流程步骤类型筛选;包含加权词数列;每次运行最多可设置一年的日期范围;支持 CSV 下载 | Smartling 帮助中心,“字数统计报告” |
| 加权词 | 经杠杆作用调整后的吞吐量 | 每个单词乘以其模糊匹配率,并向上取整到最接近的整数。 | Smartling 帮助中心,“字数统计和估算详解” |
| 劳动积分规则 | 字数统计的含义是什么?它不代表什么? | 无论修改次数如何,提交时都会记录编辑和审核步骤;被拒绝、修改并重新提交的字符串仅记录一次。 | Smartling 帮助中心,“字数统计和估算详解” |
| 字符串更改报告 | 编辑距离和重做 | 编辑距离(每一步之间的字符变化量)、编辑字数距离(仅限 Smartling 控制面板)、发布前的编辑距离,以及工作流操作类型值(包括 REJECT 和 POST_MACHINE_REVISION);数据为过去 6 个月的数据,每 24 小时刷新一次。 | Smartling 帮助中心,“字符串更改报告” |
| 译员质量表现 - 90 天 | BI 的编辑距离趋势 | 通过项目、作业和工作流程步骤的编辑距离(edit_distance)来获取译员质量绩效数据,以 CSV 格式存储到 AWS S3 存储桶中,并每 24 小时刷新一次;由客户成功经理激活。 | Smartling 帮助中心,“Smartling 的商业智能数据访问工具” |
| 语言质量评估级别 | 后期编辑工作的标准化 | 根据机器翻译字符串的预测质量,将其分为高、中或低三个等级;该等级显示在“字数统计报告”的“模糊分类”列中。 | Smartling 帮助中心,“机器翻译语言质量评估代理” |
| LQA报告 | 交付工作的质量 | LQA 仪表板(按语言环境、项目或作业统计 MQM 分数)、LQA 错误和仲裁报告(字符串级别的错误,包含类别和严重性)以及 LQA 错误密度报告(按项目、语言和作业统计错误) | Smartling 帮助中心,“LQA:概述” |
| 实际编辑率 | 跟踪评论指标示例 | Gate.io 的内部审核人员在 2022 年 18 个语言环境下的平均编辑率为 0.6%。 | Gate.io案例研究 |
如何一步步建立语言学家生产力衡量体系?
大多数团队可以利用已有的报告,分五步构建一个可靠的生产力视图:
- 定义单位和段——确定单位是按工作流程步骤类型、按语言、按月计算的加权字数,并确定永远不会混合的段:内容类型、模糊匹配范围,以及(对于机器翻译后编辑)语言质量评估级别。在提交第一份报告之前把这些信息记录下来,可以避免以后对数字产生争议。
- 按语言专家提取吞吐量— 运行按语言专家(以及供应商团队的机构)筛选的字数统计报告,按工作流程步骤类型和翻译语言拆分,并使用“加权字数”列。翻译活动报告会在您需要检查单个作业时,添加一个包含用户名、机构名称、语言、字数统计类型、模糊评分和字数的 CSV 文件。
- 添加工作量和返工——下载同一时期的字符串更改报告,按用户筛选,并汇总每个语言学家的编辑距离和拒绝操作;帐户所有者和项目经理在选择单个项目后,还可以按工作流程步骤进行筛选。要保留比报告的 6 个月窗口更长的历史记录,请按计划将数据访问工具的“译员质量性能 - 90 天”数据集加载到 Tableau 或其他 BI 工具中,该数据集包含相同的编辑距离信号,并且每 24 小时刷新一次。
- 将每条吞吐量线与质量配对——使用 LQA 对抽样工作进行评分,然后通过将 LQA 仪表板和错误密度报告的范围限定到每位语言学家所完成的作业和语言环境,来归因结果。如果语言学家的翻译效率提高而错误率保持稳定,那么他的翻译效率才是真正更高的;如果语言学家的翻译效率随着错误率的增加而提高,那么他实际上是在把工作转移给审校人员。
- 与语言学家一起审查趋势,然后采取行动——查看三个或更多时期,在得出结论之前与相关人员讨论异常值,并利用结果来分配内容、按质量等级调整后期编辑费率或制定辅导计划。比较翻译机构而不是个人是另一回事,这在如何构建翻译供应商评分卡中有所介绍。
这种方法适合以下类型的团队……
- 管理多名内部或自由职业语言学家,需要客观的分配任务、收费标准或辅导依据。
- 运行机器翻译后编辑,想知道是后编辑人员、引擎还是内容类型导致了输出速度慢。
- 根据预测的工作量支付后期编辑费用,并且需要证据证明这些等级与语言学家实际进行的编辑相符。
- 向领导汇报本地化效率,并希望得到一个能够经得住“但是质量呢?”这个问题的数字。
语言学家生产力指标有时可能并非首要考虑因素。
- 团队规模非常小,经理已经负责所有工作;正式的指标会增加管理负担,而不会增加信息。
- 翻译创作和创意作品,每个字的投入都取决于概念发展,而编辑距离和字数统计无法体现这一点。
- 尚未建立共享质量体系的项目;没有质量标准,生产力只会奖励速度,因此请先建立 LQA。
- 工作完全通过托管服务进行,服务提供商拥有语言专家团队;Smartling 的安全页面指出,Smartling 无法让客户对其独立承包商的任务进行特殊控制,也无法提供这些承包商的名单,因此个人层面的指标在这里不起作用。
评估清单:关于语言学家生产力分析需要询问的问题
哪些工具可以衡量译员的翻译水平,并且能够支持不同供应商之间的比较?
寻找一个平台,该平台能够从同一系统中报告每位语言学家的加权词吞吐量、编辑距离、拒绝率和 MQM 质量,而不是分别导出这些数据。供应商级别的比较则重复使用机构级别的相同数据,如翻译供应商记分卡中所述。
如何衡量后期编辑效率?有哪些工具可以支持这种效率衡量?
询问平台是否记录机器输出与后期编辑翻译之间的编辑距离,以及预测的机器翻译质量是否按字符串存储,以便在同一质量范围内比较后期编辑人员。
评论者评价指标的准确性如何?
查看审稿工作的署名方式。如果无论修改如何,提交时都会对审阅步骤进行评分,那么字数统计就无法区分认真审阅者和橡皮图章式审阅者;而编辑距离、拒稿次数和每位审阅者记录的 LQA 错误则可以。
生产力指标与审阅者反馈机制是否相关?
当语言专家和语言资源能够了解其背后的编辑和错误时,生产力数据才最有用。构建本地化质量保证反馈回路中介绍了如何将更正转化为翻译记忆库更新、术语表条目和阻塞质量检查。
能否针对翻译记忆库利用率和内容组合进行标准化处理?
确认报告包含加权词和模糊匹配层级,并且可以按语言和工作流程步骤进行筛选,这样就不会高估语言学家在大量使用的内容上的作用。
数据可以追溯到多久以前?它能否导入到您的 BI 工具中?
询问每份报告的保存期限和更新频率;6 个月的报告足以用于指导,而年度审查需要导出更长历史记录的报告。
谁能看到这些数字?
语言学家应该能够看到自己的数据。在 Smartling 中,译者、编辑和审校人员可以对他们参与的工作运行字数统计报告和字符串更改报告,从而使讨论始终围绕相同的数字展开。
Smartling 如何支持语言学家生产力衡量?
Smartling 将每位语言学家的已完成工作、编辑和质量结果记录在一个平台上,因此可以并排查看吞吐量、工作量和质量,而无需从单独的文件中进行核对。字数统计报告按语言学家、机构、翻译语言和工作流程步骤类型细分已完成的工作,其中包含一个“加权字数”列,该列应用模糊匹配折扣;还有一个“模糊细分”列,该列显示模糊等级,或者对于机器翻译的字符串,显示语言质量评估级别。这种组合可以让管理者比较同一预测质量范围内的后期编辑,而不是比较工作量不同的后期编辑。
字符串更改报告显示了每个工作流步骤中发生的变化,包括编辑距离、编辑单词距离和编辑发布距离,以及拒绝和 POST_MACHINE_REVISION 等工作流操作,从而将编辑后的工作量和返工转化为可计数的指标。对于更长期的趋势,数据访问工具会根据项目、作业和工作流程步骤的编辑距离,提供“翻译质量绩效 - 90 天”数据集,以及作业工作流程字数统计,并以 CSV 文件的形式提供给 Tableau 或其他 BI 工具;客户成功经理会激活它。质量源于语言质量保证 (LQA),其中人类语言学家、LQA 代理或两者根据一个模式按类别和严重程度记录错误,而 LQA 仪表板、错误和仲裁以及错误密度报告提供了质量线,使生产力视图保持真实性。
要了解决定后期编辑速度的编辑环境,请参阅AI 翻译的后期编辑环境应包含哪些内容;要了解如何平衡这些指标所揭示的工作量,请参阅如何管理团队中译员的工作量。
准备好见识一下 Smartling 的威力了吗?
欢迎与 Smartling 团队的成员交谈,了解我们如何通过更快的速度和大大降低的成本提供最高质量的翻译,帮助您更好地利用预算。