Full-Stack Physical AI
Το ανεξάρτητο όριο για ΤΝ που δρα στον κόσμο — περιορίστε τι μπορεί να κάνει ένα μοντέλο, παρακολουθήστε τι κάνει, και αστοχήστε με ασφάλεια.
Περιορισμός
Παρακολούθηση
Ασφαλής εφεδρεία
Έλεγχος
Ένα pipeline τεσσάρων σταδίων: περιορίστε τι επιτρέπεται στο μοντέλο, μετά παρακολουθήστε τι κάνει, μετά ασφαλής αστοχία σε ανωμαλία, μετά έλεγχος κάθε απόφασης.
Όταν η ΤΝ ελέγχει ενεργοποιητές, το λάθος ενός μοντέλου γίνεται φυσικός κίνδυνος — και ένα μοντέλο δεν μπορεί να είναι το ίδιο η απόδειξη ασφάλειάς του. Χτίζουμε το ανεξάρτητο όριο που περιορίζει τι επιτρέπεται να κάνει ένα μοντέλο, τον επόπτη που παρακολουθεί τι πραγματικά κάνει, και την ασφαλή εφεδρεία που αναλαμβάνει όταν κάτι πάει στραβά — μαζί με την περίμετρο προστασίας που προστατεύει το ίδιο το σύστημα.
Ένας ντετερμινιστικός επόπτης ασφάλειας, ανεξάρτητος από το μοντέλο· ένας φάκελος λειτουργίας επιτρεπόμενων καταστάσεων και ενεργειών· μια περίμετρος προστασίας (ταυτοποίηση, ακεραιότητα μοντέλου και αλυσίδας εφοδιασμού)· ασφαλής εφεδρική συμπεριφορά και διακοπή έκτακτης ανάγκης· και ένα ίχνος ελέγχου, ώστε κάθε απόφαση να είναι παρατηρήσιμη εκ των υστέρων.
Ένας ανεξάρτητος επόπτης χρόνου εκτέλεσης και ελεγκτής περιορισμών· φάκελος λειτουργίας και όρια ρυθμού· διαδρομές διακοπής έκτακτης ανάγκης· επαλήθευση ακεραιότητας μοντέλου και αλυσίδας εφοδιασμού· μοντελοποίηση απειλών για συστήματα με ΤΝ στον βρόχο· δομημένη καταγραφή και έλεγχος· ευθυγράμμιση με πρότυπα λειτουργικής ασφάλειας και διακυβέρνησης ΤΝ.
Η ασφάλεια που προστίθεται μετά το μοντέλο δεν μπορεί να το περιορίσει. Το όριο πρέπει να είναι ανεξάρτητο.
| Διάσταση | Σχεδιασμένο όριο | Πρόσθετη ασφάλεια |
|---|---|---|
| Θέση | Ανεξάρτητος, εκτός ζώνης επόπτης | Μετά το μοντέλο |
| Εξουσία | Σκληρό e-stop / παράκαμψη | Μόνο συμβουλευτική |
| Σχέση με το μοντέλο | Περιορίζει το μοντέλο | Εμπιστεύεται το μοντέλο |
| Κάλυψη | Κάθε επίπεδο | Ανά λειτουργία |
| Διασφάλιση | Ίχνος ελέγχου· ετοιμότητα EU AI Act | Καμία |