Zum Inhalt springen

Kompetenz · angewandt innerhalb eines Mandats

Robotik, VLMs & VLAs

Von Wahrnehmung zu Aktion — Vision-Language- und Vision-Language-Action-Modelle, auf echten Robotern, mit deterministischer Sicherheitsgrenze.

Hyperion positioniert sich nicht als allgemeines Engineering-Team. Technische Kompetenz dient dazu, bessere Produktentscheidungen zu treffen, Annahmen zu hinterfragen, Evidenz zu definieren und die für das Mandat erforderlichen Spezialisten zu koordinieren.

Pixel-Art-Szene eines Roboterarms, der eine Sprachanweisung in eine konkrete Greif- und Ablagehandlung umsetzt.
  1. Wahrnehmung

  2. Policy (VLA)

  3. Steuerung

  4. Sicherheitsmonitor

Von Sensoren zur Bewegung, hinter einem unabhängigen Sicherheitsmonitor.

Eine vierstufige Pipeline: Wahrnehmung, dann die Policy (ein Vision-Language-Action-Modell), dann Steuerung, dann ein unabhängiger Sicherheitsmonitor.

Ein Roboter, der in der Demo läuft, ist keiner, den man ausrollen kann. Die folgenreichen Weichenstellungen — VLM oder VLA, was eine Simulation belegen darf, wo die deterministische Sicherheitsgrenze verläuft — sind Produktentscheidungen, bevor sie technische sind. Hyperion verantwortet sie, benennt die Evidenz, die jede von ihnen schließt, und koordiniert die Spezialisten, die das Ergebnis umsetzen.

Die Sensor-zu-Aktion-Pipeline (Wahrnehmung → Policy → Steuerung), die VLM-vs-VLA-Unterscheidung (ein VLM nimmt wahr und schließt; ein VLA gibt Aktionen aus), eine Trainings- und Evaluationsschleife mit Simulation und Sim-to-Real und eine deterministische Sicherheitsgrenze — die Policy schlägt vor, ein unabhängiger Monitor begrenzt.

ROS 2; Vision-Language-Action-Policies (π-Familie, SmolVLA, NVIDIA Isaac GR00T) und VLMs; LeRobot für Daten, Training und Evaluation; Teleoperation für Demonstrationen; Simulation (Isaac Sim/Lab) und Sim-to-Real; Fine-Tuning (LoRA/QLoRA) und Closed-Loop-Evaluation; Laufzeit-Sicherheitsmonitor, Betriebshülle und Not-Halt.

Von Wahrnehmung zu Aktion, mit einer Grenze, die sicher ausfällt

Gelernte Modelle schlagen vor; eine deterministische Grenze entscheidet. Jeder Motorbefehl passiert einen unabhängigen Sicherheitsmonitor, bevor er die Hardware erreicht.

  • Eingabe
  • Deterministisch
  • Gelernt
  • Sicherheit
  • Ausgabe
Von Wahrnehmung zu Aktion, mit einer Grenze, die sicher ausfälltEine Pixel-Topologie: Sensoren speisen die Wahrnehmung; gelernte VLM- und VLA-Modelle schlagen eine Aktion vor; eine deterministische Steuerung und ein unabhängiger Sicherheitsmonitor innerhalb einer Sicherheits- und Cybersicherheitsmembran akzeptieren oder blockieren jeden Befehl, bevor er den Roboter erreicht; Ergebnisse fließen zur Wahrnehmung zurück.

Fluss von den Sensoren über Wahrnehmung, VLM und VLA, Planer und Regler, zu einem unabhängigen Sicherheitsmonitor, der die Aktoren freigibt, mit Rückführung zu den Sensoren.

  1. EingabeSensorenKameras, Tiefe, Kraft-Moment, Propriozeption
  2. DeterministischWahrnehmungFusion, SLAM, 6-DoF-Pose
  3. GelerntVLMVerankert das Ziel — „Was sehe ich gerade?“
  4. GelerntVLAErzeugt Aktions-Chunks auf der Hardware
  5. DeterministischPlaner & SteuerungTrajektorie und Steuerung mit ~1 kHz
  6. SicherheitSicherheitsmonitorUnabhängige Out-of-Band-Hülle und e-stop
  7. AusgabeAktorenBewegung in der physischen Welt

Deterministische Sicherheitsgrenze

Nur ein ACCEPT des Sicherheitsmonitors lässt einen Befehl die Aktoren erreichen; ein REJECT erzwingt einen sicheren Zustand.

Geschlossene Schleife: Aktor- und Umgebungszustand werden an die Sensoren zurückgeführt.

Illustrative Regelschleifen-Budgets: Reflex/Sicherheit ~1 kHz · Wahrnehmung ~10–40 ms · Policy ~20–100 ms · VLM ~1 Hz.

Das VLM denkt. Das VLA handelt.

Zwei Modellklassen mit unterschiedlichen Aufgaben. Nur die Ausgabe des VLA erreicht die Motoren — also muss nur die Ausgabe des VLA die deterministische Sicherheitsgrenze passieren.

Das VLM verankert das Ziel, das das VLA ausführt. Modellbeispiele veranschaulichen offene Klassen (z. B. VLMs der Pixtral-Klasse; VLAs der π0- / SmolVLA-Klasse).
DimensionVLM — Vision-Language-ModellVLA — Vision-Language-Action
AusgabeText / strukturierte SpracheRoboteraktionen / Aktions-Chunks
Beantwortete Frage„Was sehe ich gerade?“„Was sollen die Gelenke jetzt tun?“
RolleÜbergeordnete Wahrnehmung, Schlussfolgern, VerankerungSchließt die Schleife auf der Hardware
Typische Rate~1 Hz / bei Bedarf~10–50 Hz
Trainiert aufBild-Text-PaareTeleoperations-Demos (+ Open X-Embodiment)
FehlermodusHalluzinierter PlanUnsichere Bewegung — erfordert einen Sicherheitsmonitor

Was wir gemessen haben

  • Gemessen

    68.71 GB

    π0.5-Voll-Fine-Tune — Spitzenspeicher
  • Gemessen

    1.08 → 0.13 (300 steps)

    Echtes Fine-Tune (LIBERO, sprachkonditioniert) — Loss
  • Simulation

    0% → 96%

    Simulationserfolg (LIBERO-Spatial) — Basis → feinabgestimmt
  • Am Roboter, Trockenlauf

    12 / 12

    Kognitiver Benchmark am Roboter (12 Szenen) — wahrnehmen · verstehen · interpretieren
  • Gemessen

    2.3× – 14.3×

    bf16-Durchsatz vs. FP32 (ACT)

Noch nicht gemessen

  • Aufgaben-Erfolgsrate am Roboter — die Arm-Schleife ist Trockenlauf (noch keine physische Bewegung).
  • NPU-(XDNA2-)Ausführung — die INT8-Toolchain validiert, aber kein DPU-Subgraph kompiliert; nur iGPU/CPU-Fallback.
  • Konvergenz (das Fine-Tune stoppt bei 300 Schritten), Energie und Multi-Task-Generalisierung.

Über verkörperte-KI-Arbeit sprechen