Capacité · appliquée au sein d'une mission
Sûreté et sécurité de l'IA physique
La frontière indépendante pour une IA qui agit dans le monde — contraindre ce qu'un modèle peut faire, surveiller ce qu'il fait, et défaillir en sécurité.
Hyperion ne se positionne pas comme une équipe d'ingénierie généraliste. La maîtrise technique sert à mieux décider sur le produit, à remettre en question les hypothèses, à définir les preuves et à coordonner les spécialistes indispensables à la mission.
Contraindre
Surveiller
Repli sûr
Audit
Un pipeline en quatre étapes : contraindre ce que le modèle peut faire, puis surveiller ce qu'il fait, puis défaillir en sécurité en cas d'anomalie, puis auditer chaque décision.
Quand une IA commande des actionneurs, l'erreur d'un modèle devient un risque physique — et un modèle ne peut pas constituer son propre dossier de sûreté. Les décisions portent sur ce que le système est autorisé à faire, ce qui doit être observé pendant qu'il le fait, et ce qui se passe en cas de défaillance. Hyperion assume ces décisions et les preuves qui les soutiennent, et coordonne les spécialistes qui construisent la frontière, le moniteur et le repli sûr.
Un moniteur de sûreté déterministe, indépendant du modèle ; une enveloppe de fonctionnement d'états et d'actions autorisés ; un périmètre de sécurité (authentification, intégrité du modèle et de la chaîne d'approvisionnement) ; un comportement de repli sûr et un arrêt d'urgence ; et une piste d'audit, pour que chaque décision soit observable a posteriori.
Un moniteur d'exécution indépendant et un vérificateur de contraintes ; enveloppe de fonctionnement et limites de débit ; chemins d'arrêt d'urgence ; vérification de l'intégrité du modèle et de la chaîne d'approvisionnement ; modélisation des menaces pour les systèmes avec IA dans la boucle ; journalisation structurée et audit ; alignement sur les normes de sûreté fonctionnelle et de gouvernance de l'IA.
Frontière conçue d'emblée ou sécurité rapportée
Une sécurité ajoutée après le modèle ne peut pas le contraindre. La frontière doit être indépendante.
| Dimension | Frontière conçue d'emblée | Sécurité rapportée |
|---|---|---|
| Position | Moniteur indépendant, hors bande | Après le modèle |
| Autorité | Arrêt d'urgence / surpassement | Consultative seulement |
| Rapport au modèle | Contraint le modèle | Fait confiance au modèle |
| Couverture | Chaque couche | Par fonctionnalité |
| Assurance | Piste d'audit ; préparation EU AI Act | Aucune |