跳至正文

能力 · 决策工具

工作负载 → 硬件选择器

描述你的工作负载包络,得到能够承载它的最小硬件角色——这是目标要求,而非实测基准。

选择满足经验证的生产包络的最小、最易维护的平台。

Hyperion 并不将自己定位为通用工程团队。技术素养用于做出更好的产品决策、质疑假设、定义证据,并协调该委任所需的关键专家。

≈ params: <50M · <3B · <14B · <70B · ≥70B

系统主要做什么

响应时间要求

物理上在哪里运行

数据可去往何处

推荐的硬件角色

计算估算

NVIDIA Jetson (Thor + Orin)

适配你的包络

为何是此类别

  • 端侧感知(摄像头)需要专用的边缘加速器。
  • 端侧实时延迟需要专用的边缘加速器。
  • 这是满足你包络的最小角色。
角色
On-robot perception + policy inference at the edge; the workhorse for embedded robotics AI.
内存
4–128 GB unified (Thor T5000: 128 GB LPDDR5X, ~273 GB/s)
功耗
~7–130 W (Orin ~7–60 W; Thor 40–130 W)
软件生态
JetPack, CUDA, TensorRT, ROS 2
运行时
TensorRT, CUDA, ONNX Runtime, PyTorch
已知限制
CUDA-locked; thermal/power budgeting needed for sustained inference. Thor T5000 ≈1035 FP8 TOPS — confirm exact memory bandwidth (≈273–276 GB/s) per the datasheet for a given SKU.
官方来源

此推荐是基于你所输入要求的计算估算——是目标要求,而非测量值或厂商基准。在确定硬件前请用真实工作负载进行验证。注册表规格由厂商发布并带有日期;请在官方来源核实。

工作负载 → 硬件选择器 — Hyperion