跳至正文

能力 · 决策工具

工作负载 → 硬件选择器

描述你的工作负载包络,得到能够承载它的最小硬件角色——这是目标要求,而非实测基准。

选择满足经验证的生产包络的最小、最易维护的平台。

Hyperion 将产品领导力与范围明确的模型工程和网络安全工作结合。技术任务明确配置、适配、集成和交接内容;专业测试及独立资格评估另行明确约定。

≈ params: <50M · <3B · <14B · <70B · ≥70B

系统主要做什么

响应时间要求

物理上在哪里运行

数据可去往何处

推荐的硬件角色

计算估算

NVIDIA Jetson (Thor + Orin)

适配你的包络

为何是此类别

  • • 端侧感知(摄像头)需要专用的边缘加速器。
  • • 端侧实时延迟需要专用的边缘加速器。
  • • 这是满足你包络的最小角色。
角色
On-robot perception + policy inference at the edge; the workhorse for embedded robotics AI.
内存
4–128 GB unified (Thor T5000: 128 GB LPDDR5X, ~273 GB/s)
功耗
~7–130 W (Orin ~7–60 W; Thor 40–130 W)
软件生态
JetPack, CUDA, TensorRT, ROS 2
运行时
TensorRT, CUDA, ONNX Runtime, PyTorch
已知限制
CUDA-locked; thermal/power budgeting needed for sustained inference. Thor T5000 ≈1035 FP8 TOPS — confirm exact memory bandwidth (≈273–276 GB/s) per the datasheet for a given SKU.
官方来源

此推荐是基于你所输入要求的计算估算——是目标要求,而非测量值或厂商基准。在确定硬件前请用真实工作负载进行验证。注册表规格由厂商发布并带有日期;请在官方来源核实。