Harvey 构建云代理基础设施以满足法律需求
realtime news Jun 01, 2026 14:38
Harvey 开发了自己的云代理基础设施，以解决法律事务所对多模型灵活性、零数据保留和成本优化的需求。
法律人工智能公司 Harvey 开发了自己的云代理基础设施，以满足法律事务所和受监管企业的需求，理由是需要多模型灵活性、零数据保留和成本控制。尽管 OpenAI、Anthropic 和 Google Cloud 等主要参与者继续构建 AI 代理的托管运行环境，Harvey 的定制解决方案弥补了这些平台目前无法解决的重要空白。
为何多模型灵活性至关重要
对于处理敏感客户事务的法律事务所来说，被锁定在单一 AI 模型提供商中存在风险。当事务所代表构建自己模型或与主要 AI 提供商竞争的客户时，保密性问题就会出现。Harvey 的方法允许事务所动态地将任务路由到任何模型，确保兼容性并减少冲突。根据 Harvey 的说法，这种灵活性正在成为为科技公司提供服务的法律事务所的“基本条件”。
Harvey 的法律代理基准测试（LAB）进一步强调了多模型功能的必要性。基准测试显示，不同模型在特定任务上的性能差异显著，开源选项在某些法律任务中通常能以更低的成本匹敌甚至超越专有模型。随着行业从“哪个模型最好？”转向“哪个模型最适合这项任务？”，Harvey 的基础设施使法律事务所能够无缝适应。
零数据保留：不可妥协的标准
零数据保留（ZDR）是 Harvey 基础设施的另一个核心支柱。在以特权和保密信息为常态的法律领域，任何形式的第三方服务器上的数据保留都是不可接受的。根据 Harvey 的说法，真正的 ZDR 意味着数据永远不会被写入持久存储——而不仅仅是在处理后删除。这种架构选择确保了符合严格的客户和监管要求。
有状态 AI 代理在任务期间累积工作记忆和中间数据，这使得实现 ZDR 尤为困难。Harvey 的自管理运行环境允许在其自己的安全范围内定义和清除代理状态，确保敏感数据永远不会离开事务所的控制。
大规模成本优化
AI 代理计算成本高昂，尤其是在需要处理数千份文件或每项任务运行数百次模型调用的法律应用中。Harvey 的基础设施通过将工作负载路由到满足质量门槛的最有效模型来优化成本。开源模型在这里扮演了重要角色，以更低的成本提供与顶级专有模型相当的性能。
Harvey 报告称，与单独使用尖端模型相比，实现了 3-5 倍的成本降低。这种优化水平使得大规模部署（例如审查数百万份法律文件）在经济上对法律事务所变得可行。
应对行业趋势
随着云服务提供商和硬件供应商争相满足对代理型 AI 基础设施日益增长的需求，Harvey 的开发应运而生。Google 在 Google Cloud Next 2026 推出的 Agentic Data Cloud 和 Nvidia 的 BlueField-4 STX 存储架构是优化有状态、多代理工作负载的行业努力的例子。然而，这些解决方案仍在成熟中，对于法律科技等专业用例仍存在空白。
Harvey 强调，其定制基础设施是一种临时必要，而非永久战略。公司正在积极与云服务提供商合作，以弥补多模型路由、ZDR 支持和成本效率方面的不足。最终，Harvey 旨在集成这些平台的改进，同时保持其客户所需的法律特定功能。
总结
Harvey 决定构建自己的云代理基础设施，突显了当前托管 AI 平台在专业行业中的局限性。通过优先考虑多模型灵活性、零数据保留和成本优化，Harvey 正在满足法律事务所和受监管企业的独特需求。随着代理型 AI 持续重塑云设计，Harvey 的方法展示了在高风险、数据敏感环境中，定制基础设施可以实现的目标。
Image source: Shutterstock.jpg)