全栈 Physical AI
运行在你自有基础设施上的主权 AI——你拥有、运行并治理、并针对自身领域适配的开放权重模型。
选择与定型
部署
适配
治理与评估
四阶段流水线:选择并定型模型,然后部署,然后通过微调进行适配,然后治理与评估。
出于主权、延迟或合规的考量,许多工业场景无法将数据发送到第三方 API。开放权重模型运行在你自有的基础设施上,针对你的领域适配,并完全处于你的掌控之中。我们帮助你选择、定型、部署并治理它们——让你获得能力的同时不必让出数据的所有权。Mistral 是我们的首选,但具体建议按工作负载选择且不依赖单一厂商:视质量、延迟、成本、主权与运维约束而定,最佳方案可能是 Mistral、另一种开放权重模型、托管的前沿模型、不做微调的 RAG、微调,或者完全不使用 LLM。
面向任务的模型选择与定型;部署拓扑(本地、边缘或私有云);通过微调或检索进行的领域适配;推理服务层;以及治理与评估闭环,使质量是被度量的而非被假定的。
Mistral 及其他开放权重模型;面向目标硬件的量化(GGUF、AWQ、GPTQ);以 vLLM、llama.cpp 或 Ollama 提供服务;LoRA/QLoRA 微调;检索集成;面向质量与回归的评估框架;本地 GPU 与边缘部署。
Mistral 模型系列的带日期快照——Hyperion 的首选 AI 运行时(按工作负载选择,不依赖单一厂商)。每个条目均来自厂商文档;在依赖某个模型前请在官方来源核实。
Mistral Large 3 25.12
Flagship multimodal LLM · 发布 2025-12-01 · 128K+ tokens · text + vision
许可: Open-weight (commercial licence for production — confirm at source)
Mistral Medium 3.5 26.04
Frontier multimodal / agentic + coding LLM · 发布 2026-04-01 · 128K+ tokens · text + vision
许可: Commercial / Mistral platform
Mistral Small 4 26.03
Efficient hybrid LLM (instruct + reasoning + coding) · 发布 2026-03-01 · 128K+ tokens · text + vision
许可: Apache-2.0
Ministral 3 (14B / 8B / 3B) 25.12
Edge-class LLM family (14B / 8B / 3B) · 发布 2025-12-01 · 128K tokens · text
许可: Mixed (open-weight + platform — confirm per size at source)
Codestral 25.08
Code-specialised LLM · 发布 2025-08-01 · 256K tokens · text (code)
许可: Mistral AI Non-Production License (commercial licence for production)
Devstral 2 / Devstral Small 2 25.12
Agentic coding LLM · 发布 2025-12-10 · 128K+ tokens · text (code)
许可: Mixed (Devstral Small 2 open; Devstral 2 platform — confirm at source)
Pixtral Large 24.11
Multimodal (vision) model · 发布 2024-11-18 · 128K tokens · text + vision
许可: Mistral Research License (commercial licence for production)
注册表核实于 2026-06-28
主权、成本与长期可用性通常更青睐你自行托管的模型。
| 维度 | 开放权重(自行运行) | 专有 API |
|---|---|---|
| 所有权 | 你托管权重 | 由供应商托管 |
| 数据驻留 | 留在你的边界内 | 发送给供应商 |
| 成本模型 | 你掌控的固定算力 | 按 token,无上限 |
| 适配 | 完整微调 / LoRA | 受限于所开放的能力 |
| 长期可用 | 固定可信版本 | 弃用风险 |