Ικανότητα · εφαρμοσμένη εντός ανάθεσης
Ασφάλεια & προστασία φυσικής ΤΝ
Το ανεξάρτητο όριο για ΤΝ που δρα στον κόσμο — περιορίστε τι μπορεί να κάνει ένα μοντέλο, παρακολουθήστε τι κάνει, και αστοχήστε με ασφάλεια.
Η Hyperion δεν τοποθετείται ως γενική ομάδα μηχανικής. Η τεχνική επάρκεια χρησιμοποιείται για καλύτερες αποφάσεις προϊόντος, αμφισβήτηση παραδοχών, ορισμό τεκμηρίων και συντονισμό των ειδικών που απαιτεί η ανάθεση.
Περιορισμός
Παρακολούθηση
Ασφαλής εφεδρεία
Έλεγχος
Ένα pipeline τεσσάρων σταδίων: περιορίστε τι επιτρέπεται στο μοντέλο, μετά παρακολουθήστε τι κάνει, μετά ασφαλής αστοχία σε ανωμαλία, μετά έλεγχος κάθε απόφασης.
Όταν η ΤΝ ελέγχει ενεργοποιητές, το λάθος ενός μοντέλου γίνεται φυσικός κίνδυνος — και ένα μοντέλο δεν μπορεί να είναι το ίδιο η απόδειξη ασφάλειάς του. Οι αποφάσεις αφορούν τι επιτρέπεται να κάνει το σύστημα, τι πρέπει να παρατηρείται όσο το κάνει, και τι συμβαίνει όταν αστοχεί. Η Hyperion αναλαμβάνει αυτές τις αποφάσεις και τα τεκμήρια πίσω τους, και συντονίζει τους ειδικούς που χτίζουν το όριο, τον επόπτη και την ασφαλή εφεδρεία.
Ένας ντετερμινιστικός επόπτης ασφάλειας, ανεξάρτητος από το μοντέλο· ένας φάκελος λειτουργίας επιτρεπόμενων καταστάσεων και ενεργειών· μια περίμετρος προστασίας (ταυτοποίηση, ακεραιότητα μοντέλου και αλυσίδας εφοδιασμού)· ασφαλής εφεδρική συμπεριφορά και διακοπή έκτακτης ανάγκης· και ένα ίχνος ελέγχου, ώστε κάθε απόφαση να είναι παρατηρήσιμη εκ των υστέρων.
Ένας ανεξάρτητος επόπτης χρόνου εκτέλεσης και ελεγκτής περιορισμών· φάκελος λειτουργίας και όρια ρυθμού· διαδρομές διακοπής έκτακτης ανάγκης· επαλήθευση ακεραιότητας μοντέλου και αλυσίδας εφοδιασμού· μοντελοποίηση απειλών για συστήματα με ΤΝ στον βρόχο· δομημένη καταγραφή και έλεγχος· ευθυγράμμιση με πρότυπα λειτουργικής ασφάλειας και διακυβέρνησης ΤΝ.
Σχεδιασμένο όριο έναντι πρόσθετης ασφάλειας
Η ασφάλεια που προστίθεται μετά το μοντέλο δεν μπορεί να το περιορίσει. Το όριο πρέπει να είναι ανεξάρτητο.
| Διάσταση | Σχεδιασμένο όριο | Πρόσθετη ασφάλεια |
|---|---|---|
| Θέση | Ανεξάρτητος, εκτός ζώνης επόπτης | Μετά το μοντέλο |
| Εξουσία | Σκληρό e-stop / παράκαμψη | Μόνο συμβουλευτική |
| Σχέση με το μοντέλο | Περιορίζει το μοντέλο | Εμπιστεύεται το μοντέλο |
| Κάλυψη | Κάθε επίπεδο | Ανά λειτουργία |
| Διασφάλιση | Ίχνος ελέγχου· ετοιμότητα EU AI Act | Καμία |