这不是定制版 Domain-Expert LLM Lab,而是其面向中小企业的适配版本。对于有明确垂直场景需求的中小企业 — 如合同审查、商品目录信息增强、费用分类 — 不应为了确定本服务以标准化方式处理的架构问题,而为八周的定制研究买单。本套餐式项目会在启动前确定这些选择:精心筛选的基础模型、检索层,以及设计在项目开始前固定的评估框架,均应用于您的专有数据。模型权重和评估框架归您所有;Hyperion 保留流水线模板。最终交付的是一个领域专家模型,可运行在您的基础设施或主权云租户中;每个垂直领域采用固定费用,并在四周而不是八周内完成交付。目前支持的垂直领域有意限定在较窄范围 — 法律条款提取、零售商品目录信息增强和会计发票信息提取 — 因为它们具备同一种结构:从半结构化文档中提取指定字段,并由领域专家判断答案对错。正是这种共同任务形态,使固定架构具有充分依据,并使这项工作可以按产品定价。对于这些垂直领域以外的需求,定制版 Lab 才是正确的切入点。
定制服务的定价面向大型企业,而您并不属于这一类。为期八周、由机器学习工程师深度参与的微调项目,其定价适用于拥有七位数 AI 预算、并具备成熟机器学习团队来承接知识转移的企业,这是合理的。对于只有一个垂直场景、技术团队仅两人的中小企业,定制服务明显超出实际需要。中小企业真正需要的,是专门针对自身数据的工作,而不是再次为同一垂直领域内所有企业共同适用的架构决策付费。只有预先确定这些通用决策,而不是在每次服务中重新推导,这种经济模式才成立。
广泛基准上的性能提升并不保证您的任务也会受益。GPT-4 和 Claude 每个季度都会在通用基准上提升,但没有理由认为这种变化会同步反映在狭窄的专业任务上 — 例如法国商法中的合同条款提取、时尚零售的 SKU 级商品目录信息增强,以及比利时会计中考虑增值税的费用分类。您正在为并未使用的通用智能支付溢价,而通用模型也没有特殊理由在您所在领域的专有词汇和边界情况上取得提升。
您的团队无法从零搭建微调流水线;即使具备这种能力,这也不是合理的时间投入。正确微调一个模型 — 包括数据整理与筛选、基础模型选择、评估框架构建、量化取舍和部署 — 对经验丰富的机器学习工程师而言,也是一项持续数周的工作。如果您有这样的工程师,他们应该专注于构建您的产品。如果没有,教程只会让您得到一个看似完成训练、却无法通过评估的模型,而您不会知道原因。本套餐服务采用适用于所支持任务形态的标准化方法,将这项持续数周的工作压缩为一个为期四周、固定费用的项目。
你需要让模型运行在前沿 API 提供商之外的某个地方。你的客户——律所、会计师事务所、区域零售商——有数据驻留方面的顾虑、客户保密义务,或行业监管要求,这些都让把他们的数据发送到一家美国超大规模云厂商成为一个商业问题,即便在技术上是被允许的。一个你拥有、部署在你自己基础设施或欧洲主权租户上的模型,是对这些顾虑的结构性答案,而前沿 API 供应商合同永远做不到这一点。对中小企业而言,这种姿态是一项真正的商业差异化优势,而不是一个合规勾选项。
本项目对应“构建与部署”阶段。之所以可压缩至四周,是因为针对您所在受支持垂直领域的架构会预先固定,而不是从零开始设计。您的团队提供专有数据,以及负责评估输出的领域专家。流程结构——基础模型、检索、评估模板、推理技术栈——在项目开始前确定。首次沟通会确认您的需求是否属于支持的垂直领域;如果不属于,定制版 Domain-Expert LLM Lab 才是合适的服务,我们不会启动本项目。
你的数据进入流水线。我们针对打包垂直领域的要求——法律、零售或会计——审计其覆盖范围、授权情况和质量。评估框架会针对你垂直领域的任务定义被实例化,并在现役的前沿 API 上跑出一条基线,这样在任何训练开始之前我们就知道“胜出”意味着什么。如果数据覆盖太薄,或者任务定义落在受支持垂直领域之外,我们就在这里停下并退还余款;打包服务只有在契合度真实存在时才奏效。
为你垂直领域预选的基座模型——为这一任务画像挑选的某个特定 Llama 3、Mistral 或 Qwen 变体——会使用流水线配方在你筛选好的数据上进行微调。我们每天都跑评估框架,并在数据需要的地方迭代数据配比。到第二周结束时,模型要么在你的任务专属评估上击败前沿 API 基线,要么我们回退到次优配置并诚实记录其上限。打包服务只有在模型确实胜出时才值得付费。
推理会架设在你实际要运行它的地方——一个主权云租户、一块小型本地 GPU,或一家将数据保留在你所在司法辖区内的专用推理提供商。打包垂直领域的延迟和成本边界是固定的,因此我们针对一个已知目标进行调优,而不是去探索完整的设计空间。你这边的领域专家会在一批真实生产案例样本上对部署后模型的输出进行签字认可;这次签字就是验收标准。
我们会带你那两人的技术团队走一遍训练配方、评估框架和部署运行手册。模型、权重、数据流水线和评估都归你所有。流水线模板——那套让四周周期成为可能的可复用脚手架——仍是 Hyperion 的知识产权;你付费购买的是把它针对你数据的专门化应用,而不是其底层框架。当更好的基座模型发布时,你的团队可以自行在新基座模型上重跑配方,无需 Hyperion 进一步参与。所需时间取决于你的数据和新模型。
法律服务、零售或会计领域的中小企业——这是打包流水线今天支持的三个垂直领域——拥有一项具体任务(合同条款抽取、目录增强、发票或费用归类),以及一个至少大到足以用于微调的专有数据集。适合那些现有前沿 API 方案在领域质量上已经触顶、且在当前吞吐量下成本已相当可观的团队。适合那些因数据驻留或客户保密要求而真正倾向于自托管或主权云模型、而非仅仅走个流程的企业。本服务不适合用例落在受支持垂直领域之外的中小企业——对那些项目而言,定制化的 Domain-Expert LLM Lab 才是正确的切入点,按其自身的周期和定价执行。它同样不适合没有专有数据的团队;没有数据资产,一个微调的垂直模型相对前沿 API 没有任何可持续的优势,此时 Readiness Audit 才是合适的第一次沟通。
不能,至少不能作为这项标准化服务来提供。之所以支持这三个垂直领域,是因为它们具有同一种结构——从半结构化文档中提取指定字段,并由专家依据标准答案评判结果——因此无需每次重新推导架构,这项工作也可以按产品化服务定价。对于这些领域之外的需求,定制版 Domain-Expert LLM Lab 才是合适的服务——周期为八周,采用定制微调,并按此定价。如果您的任务与某个受支持领域接近、但又不完全属于其中,首次沟通免费;我会如实告诉您,标准化架构是否适用,还是定制版 Domain-Expert LLM Lab 更合适。
因为针对您所在垂直领域的架构——基础模型选择、检索层、评估模板、推理技术栈——会在项目开始前确定。在定制版 Domain-Expert LLM Lab 中,这些决策会针对每个项目单独作出,其定价合理地面向需要处理新型任务的大型企业。在标准化服务中,这些决策会预先统一并按需应用,因此可以为任务符合架构所针对的结构的中小企业制定合理价格。您支付的四周费用,用于将方案专门应用于您的数据、对照您的基线进行评估,以及部署到您的基础设施——并非用于底层框架本身。
我们会在第二周得出结论;如果答案是否定的,项目将在该节点终止,并向您退还剩余款项。第二周的评估会使用您的数据和基线,检验标准化架构。如果数据不足,或任务超出支持的结构范围,我们会在这个检查点明确告知并停止项目。
通常不需要。对于打包的这些垂直领域,推理规模足够小,可以在欧洲主权云租户中的一块普通 GPU 上运行——Scaleway、OVHcloud 或类似服务——或者运行在像 Together 或 Fireworks 这样将数据保留在区域内的专用推理提供商上。训练在租用的 GPU 上完成,不需要购买硬件。固定费用定价已包含中小企业典型吞吐量下的推理成本边界;更重的工作负载会把模型推向本地 GPU,但那是例外而非默认。
通常不需要。评估框架、数据流水线和方法归您的团队所有,这意味着改用新的基础模型重新训练 — 无论是 Llama 5 发布时、Mistral 的新版本,还是更强的 Qwen 变体 — 都可以由您的团队内部完成,无需 Hyperion 进一步参与。交接方案旨在将再训练转由内部完成。如果您不希望自行执行,当显著更优的基础模型可用时,我们可以另行报价,提供短周期的更新服务。
30 分钟。我会诊断你的处境,坦诚告诉你这项服务是否合适——如果不合适,什么才合适。