能力 · 在委托内适用

Mistral 与开放权重模型

在你运营的基础设施上运行开放权重 AI——明确并验证许可证、控制权和数据流。

Hyperion 并不将自己定位为通用工程团队。技术素养用于做出更好的产品决策、质疑假设、定义证据，并协调该委任所需的关键专家。

像素艺术场景：一个开放、可检视的模型——激活信号流经清晰可辨的权重层。

  1. 选择与定型

  2. 部署

  3. 适配

  4. 治理与评估

从模型选择到受治理的生产。

四阶段流水线：选择并定型模型，然后部署，然后通过微调进行适配，然后治理与评估。

许多工业场景需要一条通用第三方 API 未必能够满足的部署边界。开放权重模型可以运行在贵方运营的基础设施上，但控制权和数据驻留仍取决于完整拓扑，包括遥测、支持、更新、备份和分处理者。Hyperion 承担这条边界应设在何处、以及哪些证据足以支持它的决策，并协调实施它的专家。Mistral 是我们的首选参考，但建议仍按工作负载选择且不依赖单一厂商。

面向任务的模型选择与定型；部署拓扑（本地、边缘或私有云）；通过微调或检索进行的领域适配；推理服务层；以及治理与评估闭环，使质量是被度量的而非被假定的。

Mistral 及其他开放权重模型；面向目标硬件的量化（GGUF、AWQ、GPTQ）；以 vLLM、llama.cpp 或 Ollama 提供服务；LoRA/QLoRA 微调；检索集成；面向质量与回归的评估框架；本地 GPU 与边缘部署。

当前 Mistral 模型

Mistral 模型系列的带日期快照——Hyperion 的首选 AI 运行时（按工作负载选择，不依赖单一厂商）。每个条目均来自厂商文档；在依赖某个模型前请在官方来源核实。

  • Mistral Large 3 25.12

    Flagship multimodal LLM · 发布 2025-12-01 · 128K+ tokens · text + vision

    许可: Open-weight (commercial licence for production — confirm at source)

    开放权重

  • Mistral Medium 3.5 26.04

    Frontier multimodal / agentic + coding LLM · 发布 2026-04-01 · 128K+ tokens · text + vision

    许可: Commercial / Mistral platform

    专有

  • Mistral Small 4 26.03

    Efficient hybrid LLM (instruct + reasoning + coding) · 发布 2026-03-01 · 128K+ tokens · text + vision

    许可: Apache-2.0

    开放权重

  • Ministral 3 (14B / 8B / 3B) 25.12

    Edge-class LLM family (14B / 8B / 3B) · 发布 2025-12-01 · 128K tokens · text

    许可: Mixed (open-weight + platform — confirm per size at source)

    开放权重

  • Codestral 25.08

    Code-specialised LLM · 发布 2025-08-01 · 256K tokens · text (code)

    许可: Mistral AI Non-Production License (commercial licence for production)

    开放权重

  • Devstral 2 / Devstral Small 2 25.12

    Agentic coding LLM · 发布 2025-12-10 · 128K+ tokens · text (code)

    许可: Mixed (Devstral Small 2 open; Devstral 2 platform — confirm at source)

    开放权重

  • Pixtral Large 24.11

    Multimodal (vision) model · 发布 2024-11-18 · 128K tokens · text + vision

    许可: Mistral Research License (commercial licence for production)

    开放权重

注册表核实于 2026-06-28

洽谈主权 AI 部署

开放权重模型与专有 API

当许可证、完整数据流和运维模式均适配时，自托管可能有利于主权、成本可预测性和长期可用性。

所列模型示例代表开放类别（如 Mistral Small / Ministral 类开放权重模型）。
维度开放权重（自行运行）专有 API
所有权你托管权重由供应商托管
数据驻留可保留在经验证的边界内取决于供应商区域、合同和数据流
成本模型基础设施与运维按使用量和合同
适配依许可证进行微调 / LoRA取决于供应商
长期可用固定可信版本弃用风险