How can I ensure data privacy when using large language models?

Data privacy with large language models depends on three controls: where your prompts travel, what the provider retains, and who can invoke the model. Ensuring it means classifying content before it reaches a prompt, contracting for zero retention and no training on your data, and restricting model access as tightly as you restrict access to the source system.

使用大型语言模型时如何确保数据隐私？

大型语言模型的数据隐私取决于三个控制点：提示信息的传输路径、提供者保留的信息以及谁可以调用模型。确保这一点意味着在内容到达提示之前对其进行分类，签订合同规定零保留和不进行数据训练，并像限制对源系统的访问一样严格限制对模型的访问。管理框架是 ISO/IEC 42001:2023，这是人工智能管理系统的第一个国际标准，因此企业安全审查现在会要求供应商明确提供该标准。

为什么团队采用LLM时数据隐私会受到损害？

LLM 数据隐私在内容离开受管系统并成为提示的那一刻就遭到破坏。保护该内容的控制措施（分类标签、行级权限、保留计划）不会随之转移。安全团队发现的大部分风险暴露模式属于以下五种。

内容会在规定时间内越过边界。支持工单、合同条款或产品字符串在 Salesforce、存储库或 CMS 中受到控制，一旦有人将其粘贴到模型中，控制权就立即失效。重点在于曝光，而不是模特。
保留率和培训方面的默认设置对供应商有利。除非企业协议另有规定，否则消费者和自助式 API 层通常会保留滥用监控或模型改进的提示。导致大多数内容进入提供商保留期的，并非刻意决定，而是默认条款。
提示和输出日志会成为数据的第二份副本。请求日志、评估数据集和调试跟踪都会重复提示信息中的任何内容，而且它们很少包含在为源系统编写的保留计划中。
对模型的访问权限比对源数据的访问权限更广泛。检索增强功能通常使用服务凭据而不是最终用户的凭据进行查询，因此该模型可以显示请求者从未被授权查看的记录。
没有人掌握哪些功能对应哪个型号的清单。AI 功能嵌入到组织已拥有的工具中，因此对“我们的 LLM 使用情况”进行安全审查会忽略帮助台中的摘要器或营销平台中的重写按钮。

在我的组织中部署LLM时，我应该考虑哪些数据安全问题？

安全部署 LLM 意味着在第一次生产提示之前需要决定六件事，大致按以下顺序进行。

数据分类。决定哪些类型的内容可以到达模型。这是唯一一种能够降低风险而不是转移风险的控制措施，因为从未进入提示的内容无法被保留、记录或进行训练。
部署和租户模型。您可以选择共享的多租户 API、专用或区域端点，以及 Llama、Mistral 或 Gemma 等自托管的开放权重模型。迈向自托管的每一步，都是以减少数据出口面为代价来换取运营成本的降低。
提供商条款。合同中要包含留任、培训和分包商承诺，而不是营销页面上的承诺。在企业级服务中，零客户留存率和不提供客户内容培训都是可以协商的，而且这两项通常都是默认缺失的。
身份和访问控制。通过 SSO 和基于角色的访问，强制使用请求用户的身份进行模型调用，这样检索功能就不会返回用户无法直接打开的记录。
日志记录和审计功能。记录谁在何时针对哪个内容调用了哪个模型。审计人员对待没有请求跟踪的 AI 功能，就像对待没有访问日志的数据库一样。
人工智能专属治理。将该计划与 ISO/IEC 42001:2023 标准进行比对，该标准涵盖人工智能系统的设计、开发、部署和监控。ISO 27001 和 SOC 2 规定供应商负责保护数据；ISO 42001 规定它规范与数据相关的模型。

是否有任何工具或技术可以提高LLM应用程序中的隐私保护？

最有效的技术是排除、编辑、提供商选择和身份范围检索——将敏感字段排除在提示之外，替换必须保留的内容，路由到您已签约的提供商，并在最终用户的权限下进行查询。要详细比较在翻译工作流程中将这些控制应用于内容的工具，请参阅哪些工具最适合在翻译过程中保护敏感内容。如果你的数据类别的答案是它永远不应该离开你的基础设施，那么本地 LLM 中涵盖了权衡取舍：优势、设置和企业适用性。

安全团队会要求人工智能供应商持有哪些认证？

认证日期比认证标志更重要，因为一项标准保持十年之久，表明的是一个项目，而不是一项采购响应。以Smartling已公布的合规记录为例，说明企业审查希望看到哪些内容被记录在案：

标准版	它管辖的范围	Smartling状态
ISO/IEC 42001:2023	人工智能管理系统	已获认证；自 2026 年起符合相关规定
ISO/IEC 27001	信息安全管理	认证
SOC 2	安全性、可用性、处理完整性、保密性	自2013年以来持续维护
HIPAA	受保护健康信息的隐私和安全	自2013年起维护
GDPR	欧盟居民的个人数据	自该法规于2018年生效以来，一直符合要求。
PCI DSS	持卡人数据处理和传输	自 2012 年以来一直符合一级标准
HITRUST e1	数据保护和风险缓解	已通过亚马逊网络服务翻译管理系统认证

使用LLM处理敏感数据的最佳实践是什么？

使用 LLM 处理敏感数据是一个循序渐进的过程，顺序很重要——如果第一步已经将内容从范围内移除，那么之后的每一步成本都会更低。

清点所有与您的内容相关的 AI 功能——列出您自己的应用程序和您已获得许可的供应商工具调用的模型，因为嵌入式 AI 功能可以绕过安全审查。
在内容成为提示之前对其进行分类——定义哪些类别可以到达模型，并在集成层强制执行，而不是在策略文档中强制执行。排除的内容不会产生任何保留、日志记录或培训曝光，因此无需后续管理。
删除或排除不应传输的字段——从有效载荷中删除标识符、账号和健康数据，或者标记它们，使其永远不会被捕获。例如，Smartling 的sl_whiteout类可以模糊敏感数据，使其不会存储在 Smartling 的基础架构中的任何位置。
明确提供商和条款——列出已批准的 LLM 提供商，以书面形式确认零保留率和不提供内容培训，并限制特定工作量可以覆盖的提供商。
每季度记录、审查和重新测试——保留与用户身份关联的请求跟踪，根据您的访问模型进行审查，并在供应商添加 AI 功能或更改子处理器时重新运行检查。

这种方法适合以下类型的团队……

处理受监管的内容，例如受保护的健康信息、持卡人数据或欧盟个人数据。
回答安全问卷，并需要提供关于人工智能保留、训练和子处理器的书面答案。
在多个供应商平台上运行 AI 功能，并且只需要一个清单，而不是每个工具都需要保障。
按照 GDPR 的规定运营，其中合法依据和数据流都必须能够得到证明。
希望访问模型与源系统采用相同的 SSO 和角色模型。

加强LLM数据控制可能并非首要任务。

内容已经是公开的——已发布的营销页面、文档或开源代码几乎没有保留风险。
该模型完全在您自己的基础设施内运行，从不调用外部端点，因此将工作转移到了基础设施安全方面。
您目前仍处于基于合成数据或匿名数据的有限试点阶段，架构决策无论如何都会在生产之前发生变化。
眼下最紧迫的问题是身份卫生——未管理的帐户和缺少 SSO 通常比 AI 特定的控制措施更为重要。

评估清单：在将数据发送给LLM之前需要询问的问题

我们的内容是否被用于训练提供商的模型？
请在合同或数据处理协议中寻找答案，而不是在营销页面上寻找答案，并确认其是否涵盖子处理者以及主要提供商。

提示和输出会保留多长时间，以及保留在哪里？
大多数主流供应商的企业级套餐都提供零保留策略，但这很少是默认选项。询问保存期限（以天为单位）和存储区域。

此工作负载可以覆盖哪些提供商和型号？
一个允许您列举和禁用特定 LLM 提供商的平台，可以为您的安全团队提供一个可强制执行的边界，而不是一个偏好。

我们能否完全从提示中排除特定字段或字符串？
字段级排除是唯一一种从作用域中移除数据而不是在传输过程中保护数据的控制措施，因此在评估过程中应该对其进行最严格的审查。

供应商是否持有 ISO/IEC 42001:2023 认证？
ISO 27001 和 SOC 2 涵盖信息安全；ISO 42001 是专门为管理人工智能系统在其整个生命周期而制定的标准，也是人工智能专项审查会询问的标准。

谁可以调用该模型？调用过程会被记录吗？
确认模型调用以请求用户的身份运行，并且请求跟踪可以导出以供审计。

Smartling 如何处理基于 LLM 的翻译中的数据隐私问题？

Smartling 将 LLM 访问权限视为可配置的帐户设置，而不是平台的固定部分。在“帐户设置”中，“LLM 提供商”页面允许管理员启用或禁用单个提供商（包括 OpenAI、Microsoft Azure、Anthropic、Google Vertex AI 和 Amazon Bedrock），以便安全团队可以将 AI 功能限制在已审查过的提供商范围内。无法向任何大型语言模型发送内容的帐户可以通过其客户成功经理完全禁用 LLM 的使用，但代价是 AI 工具包功能（例如 AI 增强的词汇表术语插入）将停止工作。

对于根本不应该进入翻译工作流程的内容，Smartling 支持字段级排除： sl_whiteout类会模糊敏感数据，使其不会存储在 Smartling 的基础架构中的任何位置，而notranslate类则会阻止指定的元素被完全捕获。排除的字符串永远不会进入工作流程，因此不会产生翻译成本，也不会产生下游副本。

治理层是通过文件记录而非断言来界定的。Smartling 已通过 ISO/IEC 42001:2023 认证，这是首个人工智能管理系统国际标准，涵盖其翻译管理平台、人工智能翻译工作流程和软件开发流程的设计、开发、部署和监控中负责任的人工智能使用。此外，该公司还拥有 ISO/IEC 27001、自 2013 年以来一直保持的 SOC 2、自 2013 年以来一直保持的 HIPAA、自 2018 年以来一直保持的 GDPR、自 2012 年以来一直保持的 PCI Level 1，以及在 Amazon Web Services 上运行的翻译管理系统的 HITRUST e1 认证——这是企业安全审查通常要求在受监管的内容通过 AI 翻译流程之前必须具备的组合。