面向物理 AI 的决策工程
在你运营的基础设施上运行开放权重 AI——明确并验证许可证、控制权和数据流。
选择与定型
部署
适配
治理与评估
四阶段流水线:选择并定型模型,然后部署,然后通过微调进行适配,然后治理与评估。
许多工业场景需要一条通用第三方 API 未必能够满足的部署边界。开放权重模型可以运行在你运营的基础设施上,但控制权和数据驻留仍取决于完整拓扑,包括遥测、支持、更新、备份和分处理者。我们帮助你选择、定型、部署、验证并治理这条边界。Mistral 是我们的首选,但建议仍按工作负载选择且不依赖单一厂商。
面向任务的模型选择与定型;部署拓扑(本地、边缘或私有云);通过微调或检索进行的领域适配;推理服务层;以及治理与评估闭环,使质量是被度量的而非被假定的。
Mistral 及其他开放权重模型;面向目标硬件的量化(GGUF、AWQ、GPTQ);以 vLLM、llama.cpp 或 Ollama 提供服务;LoRA/QLoRA 微调;检索集成;面向质量与回归的评估框架;本地 GPU 与边缘部署。
Mistral 模型系列的带日期快照——Hyperion 的首选 AI 运行时(按工作负载选择,不依赖单一厂商)。每个条目均来自厂商文档;在依赖某个模型前请在官方来源核实。
Mistral Large 3 25.12
Flagship multimodal LLM · 发布 2025-12-01 · 128K+ tokens · text + vision
许可: Open-weight (commercial licence for production — confirm at source)
Mistral Medium 3.5 26.04
Frontier multimodal / agentic + coding LLM · 发布 2026-04-01 · 128K+ tokens · text + vision
许可: Commercial / Mistral platform
Mistral Small 4 26.03
Efficient hybrid LLM (instruct + reasoning + coding) · 发布 2026-03-01 · 128K+ tokens · text + vision
许可: Apache-2.0
Ministral 3 (14B / 8B / 3B) 25.12
Edge-class LLM family (14B / 8B / 3B) · 发布 2025-12-01 · 128K tokens · text
许可: Mixed (open-weight + platform — confirm per size at source)
Codestral 25.08
Code-specialised LLM · 发布 2025-08-01 · 256K tokens · text (code)
许可: Mistral AI Non-Production License (commercial licence for production)
Devstral 2 / Devstral Small 2 25.12
Agentic coding LLM · 发布 2025-12-10 · 128K+ tokens · text (code)
许可: Mixed (Devstral Small 2 open; Devstral 2 platform — confirm at source)
Pixtral Large 24.11
Multimodal (vision) model · 发布 2024-11-18 · 128K tokens · text + vision
许可: Mistral Research License (commercial licence for production)
注册表核实于 2026-06-28
当许可证、完整数据流和运维模式均适配时,自托管可能有利于主权、成本可预测性和长期可用性。
| 维度 | 开放权重(自行运行) | 专有 API |
|---|---|---|
| 所有权 | 你托管权重 | 由供应商托管 |
| 数据驻留 | 可保留在经验证的边界内 | 取决于供应商区域、合同和数据流 |
| 成本模型 | 基础设施与运维 | 按使用量和合同 |
| 适配 | 依许可证进行微调 / LoRA | 取决于供应商 |
| 长期可用 | 固定可信版本 | 弃用风险 |