Η ανάπτυξη νευρωνικών δικτύων σε αυτοκινητιστικά, βιομηχανικά και ενσωματωμένα συστήματα κρίσιμα για την ασφάλεια απαιτεί τη συμφιλίωση δύο θεμελιωδώς διαφορετικών μηχανικών φιλοσοφιών: του πιθανοτικού, βασισμένου σε δεδομένα κόσμου της μηχανικής μάθησης και του ντετερμινιστικού, βασισμένου σε αποδείξεις κόσμου της λειτουργικής ασφάλειας. Αυτός ο οδηγός εξηγεί τα πρότυπα που διέπουν αυτά τα περιβάλλοντα — ISO 26262, SOTIF/ISO 21448, IEC 61508 και IEC 62443 — και πώς να δομήσετε μια ανάπτυξη ML που μπορεί να αποδεχθεί ένας μηχανικός ασφάλειας.
Τελευταία αναθεώρηση: Μάιος 2026
Η λειτουργική ασφάλεια είναι το μέρος της συνολικής ασφάλειας ενός συστήματος που εξαρτάται από τη σωστή λειτουργία ηλεκτρικών, ηλεκτρονικών και προγραμματιζόμενων ηλεκτρονικών εξαρτημάτων. Όταν ένα στοιχείο AI ή ML αναπτύσσεται σε ένα σύστημα κρίσιμο για την ασφάλεια — αυτόνομη πέδηση έκτακτης ανάγκης, βιομηχανική παύση έκτακτης ανάγκης, ρομποτικός σχεδιασμός κίνησης — τα πρότυπα λειτουργικής ασφάλειας απαιτούν αποδείξεις ότι το σύστημα αστοχεί με ασφάλεια, συμπεριφέρεται σωστά εντός των καθορισμένων συνθηκών λειτουργίας του και ανέχεται σφάλματα υλικού και λογισμικού. Η πρόκληση για τη μηχανική μάθηση είναι ότι αυτά τα πρότυπα σχεδιάστηκαν για ντετερμινιστικό λογισμικό, και τα νευρωνικά δίκτυα δεν είναι ντετερμινιστικά με την παραδοσιακή έννοια.
Τα πρότυπα λειτουργικής ασφάλειας που διέπουν τα αυτοκινητιστικά και βιομηχανικά συστήματα — ISO 26262, IEC 61508, IEC 62061 — αναπτύχθηκαν για ντετερμινιστικό λογισμικό: κώδικα που επεξεργάζεται εισόδους μέσω καθορισμένης λογικής και παράγει εξόδους που μπορούν να προδιαγραφούν τυπικά, να ελεγχθούν έναντι κριτηρίων δομικής κάλυψης και να επαληθευτούν ως ορθές εντός των συνθηκών λειτουργίας του συστήματος.
Τα νευρωνικά δίκτυα δεν ταιριάζουν σε αυτό το μοντέλο. Εκπαιδεύονται — δεν προγραμματίζονται — και η συμπεριφορά τους αναδύεται από εκατομμύρια εκμαθημένες παραμέτρους αντί από ρητή λογική. Η ίδια είσοδος που παρουσιάζεται δύο φορές μπορεί να παράγει ελαφρώς διαφορετικές εξόδους ανάλογα με τη συμπεριφορά κινητής υποδιαστολής του υλικού και τον χρονοπρογραμματισμό νημάτων. Οι τρόποι αστοχίας τους είναι στατιστικοί, όχι ντετερμινιστικοί: αποδίδουν καλά κατά μέσο όρο αλλά μπορεί να αστοχήσουν σε συγκεκριμένες εισόδους που υποεκπροσωπούνταν στα δεδομένα εκπαίδευσης. Και δεν μπορούν να επαληθευτούν εξαντλητικά έναντι μιας τυπικής προδιαγραφής επειδή δεν υπάρχει τυπική προδιαγραφή — η προδιαγραφή είναι υπονοούμενη στα δεδομένα εκπαίδευσης.
Αυτό δημιουργεί μια θεμελιώδη ένταση που κάθε μηχανικός που αναπτύσσει AI σε ένα σύστημα κρίσιμο για την ασφάλεια πρέπει να επιλύσει: πώς δημιουργείτε έναν φάκελο ασφάλειας για ένα στοιχείο του οποίου η συμπεριφορά δεν μπορεί να προδιαγραφεί ή να επαληθευτεί τυπικά με την παραδοσιακή έννοια; Η απάντηση — που αναδύεται τώρα από φορείς τυποποίησης, βιομηχανικές κοινοπραξίες και πρώιμη εμπειρία προγραμμάτων — συνδυάζει αρχιτεκτονικά μοτίβα (παρακολουθητές ασφάλειας, ορισμός ODD, διαδρομές εφεδρείας) και στατιστικές αποδείξεις (μεγάλα σύνολα δεδομένων επικύρωσης, δοκιμές ευρωστίας) που μαζί συνιστούν έναν υπερασπίσιμο φάκελο ασφάλειας.
Οι έξι βασικές εντάσεις παρακάτω αντιπροσωπεύουν τις μηχανικές προκλήσεις που κάθε ανάπτυξη ML κρίσιμη για την ασφάλεια πρέπει να αντιμετωπίσει.
Τα πρότυπα λειτουργικής ασφάλειας (ISO 26262, IEC 61508) υποθέτουν ντετερμινιστική συμπεριφορά: με τις ίδιες εισόδους, μια λειτουργία ασφάλειας παράγει τις ίδιες εξόδους κάθε φορά. Τα νευρωνικά δίκτυα που εκπαιδεύονται με στοχαστική κατάβαση κλίσης και dropout δεν προσφέρουν αυτή την εγγύηση. Ακόμη και πανομοιότυπες είσοδοι μπορεί να παράγουν ελαφρώς διαφορετικές εξόδους ανάλογα με την υλοποίηση κινητής υποδιαστολής του υλικού και τον χρονοπρογραμματισμό νημάτων.
Οι φάκελοι ασφάλειας απαιτούν ιχνηλασιμότητα — πρέπει να μπορείτε να εξηγήσετε γιατί ένα σύστημα λαμβάνει μια απόφαση και να αποδείξετε ότι καμία μη ασφαλής απόφαση δεν είναι δυνατή εντός του καθορισμένου operational design domain (ODD). Τα βαθιά νευρωνικά δίκτυα είναι θεμελιωδώς αδιαφανή. Οι μέθοδοι επεξηγησιμότητας (SHAP, LIME, χάρτες προσοχής) παρέχουν προσεγγίσεις, όχι αποδείξεις.
Ένα μοντέλο εκπαιδευμένο σε μια κατανομή δεδομένων εκπαίδευσης μπορεί να συμπεριφερθεί απρόσμενα σε εισόδους που πέφτουν εκτός αυτής της κατανομής — ένα πρόβλημα γνωστό ως μετατόπιση κατανομής. Τα πρότυπα ασφάλειας απαιτούν το σύστημα να συμπεριφέρεται σωστά σε ολόκληρο το καθορισμένο σύνολο συνθηκών λειτουργίας του. Η μετατόπιση κατανομής βρίσκεται θεμελιωδώς σε αντίθεση με αυτή την απαίτηση.
Το παραδοσιακό λογισμικό κρίσιμο για την ασφάλεια επαληθεύεται έναντι τυπικών προδιαγραφών με μετρικές δομικής κάλυψης (MC/DC για ASIL D). Τα νευρωνικά δίκτυα δεν μπορούν να επαληθευτούν με αυτόν τον τρόπο — η «προδιαγραφή» είναι υπονοούμενη στα δεδομένα εκπαίδευσης. Η στατιστική επικύρωση σε μεγάλα δεσμευμένα σύνολα δεδομένων αντικαθιστά την τυπική επαλήθευση, αλλά οι αρχές ασφάλειας διαφέρουν ως προς το τι συνιστά επαρκή απόδειξη.
Το πιστοποιημένο για ασφάλεια λογισμικό υπόκειται σε αυστηρή διαχείριση αλλαγών: κάθε τροποποίηση απαιτεί επαναξιολόγηση. Τα μοντέλα νευρωνικών δικτύων μπορεί να ρυθμίζονται λεπτομερώς, να ενημερώνονται ή να αντικαθίστανται καθώς συσσωρεύονται δεδομένα. Κάθε ενημέρωση ενδέχεται να ακυρώσει τον υπάρχοντα φάκελο ασφάλειας και να απαιτήσει επαναεπικύρωση — δημιουργώντας ένταση μεταξύ της λειτουργικής βελτίωσης και της συντήρησης της πιστοποίησης.
Τα συστήματα ασφάλειας στο edge έχουν στενούς προϋπολογισμούς καθυστέρησης από άκρο σε άκρο — συχνά κάτω από 10ms για βρόχους ελέγχου σε πραγματικό χρόνο. Η εξαγωγή συμπερασμάτων νευρωνικών δικτύων σε περιορισμένο υλικό (MCUs, FPGAs, μικρά SoCs) πρέπει να χωράει σε αυτόν τον προϋπολογισμό αφήνοντας περιθώριο για το υπόλοιπο της διαδρομής ελέγχου. Η κβαντοποίηση και το κλάδεμα βοηθούν αλλά εισάγουν τους δικούς τους τρόπους αστοχίας.
Το ISO 26262 είναι το πρότυπο λειτουργικής ασφάλειας αυτοκινήτου, εφαρμόσιμο σε οδικά οχήματα με μέγιστη μικτή μάζα (MGVM) έως 3.500 kg. Ορίζει το πλαίσιο Automotive Safety Integrity Level (ASIL) — τέσσερα επίπεδα (A έως D) που καθορίζουν την αυστηρότητα της διαδικασίας μηχανικής ασφάλειας που απαιτείται για μια δεδομένη λειτουργία ασφάλειας. Το ASIL D είναι το πιο αυστηρό· το ASIL A το λιγότερο.
Το επίπεδο ASIL για μια λειτουργία καθορίζεται μέσω μιας Ανάλυσης Κινδύνων και Εκτίμησης Επικινδυνότητας (HARA) που εξετάζει τρεις παράγοντες: τη σοβαρότητα (S) της πιθανής βλάβης, την έκθεση (E) στην επικίνδυνη κατάσταση και τη δυνατότητα ελέγχου (C) από τον οδηγό ή τον χειριστή. Ο συνδυασμός S, E και C καθορίζει την ανάθεση ASIL.
Το V-model είναι το πλαίσιο της διαδικασίας ανάπτυξης: οι απαιτήσεις προδιαγράφονται και αναλύονται στον αριστερό βραχίονα του V· η υλοποίηση βρίσκεται στο κάτω μέρος· η ολοκλήρωση, η επαλήθευση και οι δοκιμές επικύρωσης βρίσκονται στον δεξιό βραχίονα, αντικατοπτρίζοντας κάθε τεχνούργημα του αριστερού βραχίονα. Κάθε απαίτηση ασφάλειας πρέπει να ιχνηλατείται από τον στόχο ασφάλειας σε επίπεδο οχήματος μέσω των επιπέδων συστήματος, υλικού και λογισμικού, και να επαληθεύεται στο αντίστοιχο επίπεδο στον δεξιό βραχίονα.
Το SOTIF (ISO 21448:2022) επεκτείνει το ISO 26262 ώστε να καλύψει κινδύνους που προκύπτουν από τους περιορισμούς της ίδιας της προβλεπόμενης λειτουργίας — όχι από αστοχίες, αλλά από καταστάσεις όπου το σύστημα συμπεριφέρεται ακριβώς όπως σχεδιάστηκε αλλά ο σχεδιασμός είναι ανεπαρκής για τις πραγματικές συνθήκες λειτουργίας. Αυτό είναι άμεσα σχετικό με το ML: ένα μοντέλο αντίληψης που ταξινομεί λανθασμένα έναν πεζό σε ασυνήθιστο φωτισμό δεν «αστοχεί» με την παραδοσιακή έννοια — λειτουργεί όπως εκπαιδεύτηκε, αλλά η εκπαίδευση ήταν ανεπαρκής για εκείνη τη συνθήκη. Η ανάλυση SOTIF απαιτεί τον εντοπισμό και τη συστηματική δοκιμή αυτών των συνθηκών ενεργοποίησης.
Χαμηλότερη απαίτηση λειτουργικής ασφάλειας. Εφαρμόσιμο σε συστήματα όπου η σοβαρότητα του κινδύνου είναι χαμηλή ή η έκθεση σπάνια.
Επίπτωση για την ανάπτυξη ML
Η στατιστική επικύρωση σε μέτρια σύνολα δοκιμών μπορεί να γίνει αποδεκτή. Βασικοί παρακολουθητές χρόνου εκτέλεσης επαρκούν.
Μέτρια απαίτηση ασφάλειας. Εφαρμόζεται συχνά σε λειτουργίες υποβοήθησης οδηγού με μέτριο δυναμικό κινδύνου.
Επίπτωση για την ανάπτυξη ML
Απαιτεί τεκμηριωμένο ODD, μετρικές απόδοσης στις οριακές περιπτώσεις του ODD και παρακολούθηση για εισόδους εκτός κατανομής.
Υψηλή απαίτηση ασφάλειας. Εφαρμόζεται σε συστήματα όπου οι αστοχίες θα μπορούσαν να οδηγήσουν σε σοβαρό τραυματισμό χωρίς εξωτερικό μετριασμό.
Επίπτωση για την ανάπτυξη ML
Απαιτείται ολοκληρωμένος φάκελος ασφάλειας. Παρακολουθητές διασφάλισης χρόνου εκτέλεσης, ρητή διαδρομή εφεδρείας και ανάλυση SOTIF υποχρεωτικά. Η αναθεώρηση από τρίτο μέρος αναμένεται συνήθως.
Υψηλότερο επίπεδο λειτουργικής ασφάλειας αυτοκινήτου. Εφαρμόζεται σε συστήματα όπου η αστοχία μπορεί να οδηγήσει σε απειλητικούς για τη ζωή κινδύνους.
Επίπτωση για την ανάπτυξη ML
Τα στοιχεία νευρωνικών δικτύων περιορίζονται συνήθως σε ρόλους αντίληψης/συμβουλευτικούς, ποτέ στην τελική κρίσιμη για την ασφάλεια διαδρομή ελέγχου. Απαιτούνται πλεονάζοντες ντετερμινιστικοί παρακολουθητές. Τρέχουσα συναίνεση της βιομηχανίας: τα καθαρά στοιχεία ML δεν είναι πιστοποιήσιμα σε ASIL D ως μοναδική λειτουργία ασφάλειας.
Το IEC 61508 είναι το γενικό πρότυπο λειτουργικής ασφάλειας για ηλεκτρικά, ηλεκτρονικά και προγραμματιζόμενα ηλεκτρονικά (E/E/PE) συστήματα σχετικά με την ασφάλεια. Είναι το μητρικό πρότυπο από το οποίο προέρχονται τα τομεακά πρότυπα: IEC 62061 (μηχανήματα), EN 50128 (σιδηρόδρομοι), IEC 61511 (βιομηχανία διεργασιών) και IEC 61513 (πυρηνικά). Το πλαίσιο Safety Integrity Level (SIL) είναι το ισοδύναμο του ASIL για το IEC 61508 — τέσσερα επίπεδα (SIL 1–4) που ορίζονται από την απαιτούμενη πιθανότητα αστοχίας κατ' απαίτηση (PFD) για μια λειτουργία ασφάλειας.
Για αναπτύξεις AI σε βιομηχανικά συστήματα, το βασικό ερώτημα είναι: ποιο επίπεδο SIL ανατίθεται στη λειτουργία ασφάλειας στην οποία συνεισφέρει το στοιχείο AI; Αυτό καθορίζει την αυστηρότητα των απαιτούμενων αποδείξεων επικύρωσης και τους περιορισμούς για το πώς μπορεί να χρησιμοποιηθεί το στοιχείο AI εντός αυτής της λειτουργίας.
Η γενική αρχή είναι η ίδια όπως στο ISO 26262: τα στοιχεία νευρωνικών δικτύων μπορούν να συνεισφέρουν σε λειτουργίες χαμηλότερου SIL ως συμβουλευτικά ή εναρκτήρια στοιχεία, αλλά οι λειτουργίες ασφάλειας υψηλότερης ακεραιότητας απαιτούν ντετερμινιστικές υλοποιήσεις ή ντετερμινιστικούς παρακολουθητές ασφάλειας που υπερισχύουν των εξόδων του στοιχείου ML.
Χαμηλότερο επίπεδο ακεραιότητας ασφάλειας. Εφαρμόζεται σε λειτουργίες όπου μια μεμονωμένη αστοχία είναι απίθανο να προκαλέσει επικίνδυνο συμβάν χωρίς πολλαπλούς συντελεστικούς παράγοντες.
Σημείωση ML
Τα συμβουλευτικά συστήματα βασισμένα σε ML που τροφοδοτούν μια λειτουργία ασφάλειας SIL 1 πρέπει να αποδεικνύουν στατιστική αξιοπιστία εντός των καθορισμένων συνθηκών λειτουργίας.
Ενδιάμεσο επίπεδο. Συνηθισμένο σε ενοργανωμένες λειτουργίες ασφάλειας της βιομηχανίας διεργασιών: παύσεις έκτακτης ανάγκης, ενεργοποίηση εκτόνωσης πίεσης, ανίχνευση πυρκαγιάς και αερίου.
Σημείωση ML
Η ανίχνευση ανωμαλιών μέσω ML που τροφοδοτεί μια παύση SIL 2 πρέπει να αντιμετωπίζεται ως εναρκτήριο στοιχείο στον βρόχο ασφάλειας — η πιθανότητα ανεπιθύμητης λειτουργίας της (επικίνδυνη αστοχία) πρέπει να αποδεικνύεται.
Υψηλό επίπεδο ακεραιότητας. Βρίσκεται σε συστήματα έκτακτης ανάγκης χημικών εργοστασίων, σιδηροδρομική σηματοδότηση και υποστηρικτικές λειτουργίες πυρηνικής ενοργάνωσης.
Σημείωση ML
Τα στοιχεία νευρωνικών δικτύων δεν γίνονται επί του παρόντος αποδεκτά ως υλοποιήσεις λειτουργίας ασφάλειας SIL 3 από τους περισσότερους φορείς πιστοποίησης. Το ML μπορεί να υποστηρίζει διαγνωστικά ή μη κρίσιμες για την ασφάλεια διαδρομές δεδομένων παράλληλα με ένα αποδεδειγμένο ντετερμινιστικό στρώμα ασφάλειας.
Υψηλότερο επίπεδο του IEC 61508. Συστήματα προστασίας πυρηνικών αντιδραστήρων, ζωτικές σιδηροδρομικές λειτουργίες. Εξαιρετικά σπάνιο στην πράξη.
Σημείωση ML
Κανένα στοιχείο ML δεν γίνεται αποδεκτό σε SIL 4 ως μέρος της ίδιας της λειτουργίας ασφάλειας αυτή τη στιγμή.
Το IEC 62443 είναι η διεθνής σειρά προτύπων για την κυβερνοασφάλεια των βιομηχανικών συστημάτων αυτοματισμού και ελέγχου (IACS). Ορίζει ένα μοντέλο ζωνών και αγωγών: το δίκτυο OT διαιρείται σε ζώνες με βάση την κρισιμότητα των στοιχείων που περιέχουν, και οι επικοινωνίες μεταξύ ζωνών πρέπει να διέρχονται μέσω καθορισμένων αγωγών με κατάλληλους ελέγχους ασφάλειας.
Για αναπτύξεις AI, το ερώτημα του IEC 62443 είναι: σε ποια ζώνη βρίσκεται ο διακομιστής εξαγωγής συμπερασμάτων AI και ποιοι έλεγχοι ασφάλειας διέπουν τις επικοινωνίες του με το δίκτυο ελέγχου; Η τοποθέτηση ενός διακομιστή εξαγωγής συμπερασμάτων AI που επικοινωνεί απευθείας με PLC ή συσκευές πεδίου χωρίς κατάλληλους ελέγχους αγωγού παραβιάζει το μοντέλο ζωνών και δημιουργεί κίνδυνο κυβερνοασφάλειας — ένας εισβολέας που παραβιάζει τον διακομιστή AI αποκτά μια διαδρομή προς τη ζώνη ελέγχου.
Επιπλέον, τα συστήματα AI αποτελούν μια νέα επιφάνεια επίθεσης: οι ανταγωνιστικές είσοδοι — προσεκτικά κατασκευασμένες είσοδοι σχεδιασμένες ώστε να κάνουν το μοντέλο να παράγει εσφαλμένες εξόδους — μπορούν να προκαλέσουν αστοχίες σχετικές με την ασφάλεια. Η ανάλυση κυβερνοασφάλειας IEC 62443 για συστήματα AI θα πρέπει να περιλαμβάνει δοκιμές ανταγωνιστικής ευρωστίας καθώς και συμβατικούς ελέγχους ασφάλειας IT.
Επιχειρησιακά δίκτυα IT — ERP, εταιρικό email, συνδεσιμότητα cloud. Τα μοντέλα AI που αναπτύσσονται εδώ έχουν την ευρύτερη επιφάνεια επίθεσης και τον μικρότερο αντίκτυπο OT σε περίπτωση παραβίασης, αλλά και την ασθενέστερη φρεσκάδα δεδομένων και την υψηλότερη καθυστέρηση.
Καθοδήγηση τοποθέτησης AI
Κατάλληλο για AI αναφορών, σύνοψη εγγράφων, επιχειρηματική ανάλυση. ΑΚΑΤΑΛΛΗΛΟ για έλεγχο σε πραγματικό χρόνο ή εξαγωγή συμπερασμάτων κοντά στην ασφάλεια.
Συστήματα εποπτικού ελέγχου, βάσεις δεδομένων historian, διακομιστές SCADA. Η εξαγωγή συμπερασμάτων AI που αναπτύσσεται εδώ μπορεί να έχει πρόσβαση σε δεδομένα διεργασίας πραγματικού χρόνου μέσω OPC-UA ή OSIsoft PI χωρίς άμεση πρόσβαση σε συσκευές πεδίου.
Καθοδήγηση τοποθέτησης AI
Κατάλληλο για προγνωστική συντήρηση, συμβουλευτική βελτιστοποίησης διεργασιών, ανίχνευση ανωμαλιών. Απαιτεί ελέγχους αγωγού IEC 62443-3-3 προς τη Ζώνη 2.
PLC, DCS, ελεγκτές πεδίου. Οι κρίσιμοι για την ασφάλεια βρόχοι ελέγχου εκτελούνται εδώ. Η εξαγωγή συμπερασμάτων AI στη Ζώνη 2 είναι ασυνήθιστη και απαιτεί θωράκιση SL (Security Level) 2: έλεγχο ταυτότητας, κρυπτογραφημένες επικοινωνίες, καταγραφή ελέγχου.
Καθοδήγηση τοποθέτησης AI
Οι παρακολουθητές διασφάλισης χρόνου εκτέλεσης και οι ανιχνευτές εκτός κατανομής μπορούν να λειτουργήσουν εδώ εάν το επιτρέπουν οι περιορισμοί υλικού. Η άμεση ευθύνη λειτουργίας ασφάλειας απαιτεί ανάλυση λειτουργικής ασφάλειας (ISO 26262 / IEC 61508).
Αισθητήρες, ενεργοποιητές, έξυπνα όργανα. Εξαιρετικά περιορισμένες συσκευές — συνήθως MCUs ή απλά RTUs. Η εξαγωγή συμπερασμάτων AI εδώ περιορίζεται σε μοντέλα TinyML (κβαντοποιημένα INT8, κάτω από 1MB) σε αποκλειστικούς συνεπεξεργαστές εξαγωγής συμπερασμάτων.
Καθοδήγηση τοποθέτησης AI
Ανίχνευση ανωμαλιών σε ακατέργαστες ροές αισθητήρων. Εφικτό με υλικό κατηγορίας MCU σε SL 1. Η ευθύνη λειτουργίας ασφάλειας σε αυτό το στρώμα απαιτεί τυπική αξιολόγηση IEC 61508.
Η Hyperion συμβουλεύει για το στρώμα αρχιτεκτονικής AI και edge: πού ταιριάζει το ML εντός της αρχιτεκτονικής ασφάλειας, πώς να δομήσετε τον παρακολουθητή ασφάλειας και τη διαδρομή εφεδρείας, ποια αλυσίδα εργαλείων edge είναι κατάλληλη για το υλικό σας και πώς να προετοιμάσετε το πακέτο αποδείξεων ασφάλειας. Δεν είμαστε φορέας πιστοποίησης — αλλά σας βοηθάμε να δημιουργήσετε μια αρχιτεκτονική που μπορεί να αποδεχθεί ένας φορέας πιστοποίησης.
Ένας φάκελος ασφάλειας είναι ένα δομημένο επιχείρημα, υποστηριζόμενο από αποδείξεις, ότι ένα σύστημα είναι αποδεκτά ασφαλές για μια δεδομένη εφαρμογή σε ένα δεδομένο περιβάλλον. Για στοιχεία ML, ο φάκελος ασφάλειας πρέπει να αντιμετωπίζει τους συγκεκριμένους τρόπους αστοχίας των νευρωνικών δικτύων — μετατόπιση κατανομής, αδιαφάνεια, μη ντετερμινισμό — χρησιμοποιώντας αρχιτεκτονικά μοτίβα και στατιστικές αποδείξεις αντί για τυπική επαλήθευση. Τα ακόλουθα έξι στοιχεία συνιστούν τον πυρήνα ενός υπερασπίσιμου φακέλου ασφάλειας για ένα στοιχείο ML στο edge.
Ορίστε τις ακριβείς συνθήκες υπό τις οποίες το στοιχείο ML είναι έγκυρο: περιβαλλοντικές συνθήκες, εύρη δεδομένων εισόδου, εύρη λειτουργίας αισθητήρων, φακέλους ταχύτητας/φορτίου. Το ODD είναι το συμβόλαιο μεταξύ του συστήματος ML και του φακέλου ασφάλειας. Κάθε είσοδος εκτός του ODD πρέπει να ενεργοποιεί μια ασφαλή κατάσταση — το σύστημα ML δεν πρέπει να παράγει σιωπηλά μη ασφαλείς εξόδους σε εισόδους εκτός πεδίου.
Ένας παράλληλος ντετερμινιστικός παρακολουθητής — υλοποιημένος σε συμβατικό λογισμικό ή υλικό — παρακολουθεί τις εξόδους του στοιχείου ML και μπλοκάρει ή υπερισχύει κάθε εξόδου που παραβιάζει τον περιορισμό ασφάλειας. Αυτό είναι το τυπικό μοτίβο για την ανάπτυξη ML σε συστήματα κρίσιμα για την ασφάλεια: το στοιχείο ML είναι συμβουλευτικό, ο ντετερμινιστικός παρακολουθητής είναι έγκυρος. Ο παρακολουθητής πρέπει ο ίδιος να είναι πιστοποιημένος στο απαιτούμενο επίπεδο ASIL/SIL.
Ένας ανιχνευτής OOD — συνήθως βασισμένος στο σφάλμα ανακατασκευής εισόδου, στη διαφωνία συνόλου ή στην απόσταση Mahalanobis — επισημαίνει εισόδους που πέφτουν εκτός της κατανομής εκπαίδευσης. Κατά την ανίχνευση OOD, το σύστημα μεταβαίνει στη διαδρομή εφεδρείας αντί να συνεχίσει την εξαγωγή συμπερασμάτων. Οι ανιχνευτές OOD πρέπει να επικυρώνονται ως προς το δικό τους ποσοστό ψευδώς αρνητικών εντός του φακέλου ασφάλειας.
Κάθε ανάπτυξη ML κρίσιμη για την ασφάλεια πρέπει να έχει μια καθορισμένη εφεδρεία: μια ασφαλή κατάσταση στην οποία εισέρχεται το σύστημα όταν το στοιχείο ML αστοχεί, υπερισχύεται από τον παρακολουθητή ασφάλειας ή ανιχνεύει μια είσοδο OOD. Η μετάβαση στην ασφαλή κατάσταση πρέπει να αξιολογείται η ίδια κατά ASIL/SIL. Συνήθη μοτίβα εφεδρείας: περιορισμένη/συντηρητική λειτουργία (χαμηλή ταχύτητα, αυξημένα περιθώρια ασφάλειας), αίτημα ανάληψης από οδηγό/χειριστή, ελεγχόμενη διακοπή.
Επειδή η τυπική επαλήθευση (κάλυψη MC/DC) δεν μπορεί να εφαρμοστεί σε νευρωνικά δίκτυα, τη θέση της παίρνει η στατιστική επικύρωση σε ένα μεγάλο, ανεξάρτητο, αντιπροσωπευτικό σύνολο δοκιμών. Το μέγεθος και η σύνθεση του συνόλου δοκιμών, οι μετρικές απόδοσης και τα διαστήματα εμπιστοσύνης πρέπει να τεκμηριώνονται και να γίνονται αποδεκτά από την αρχή ασφάλειας. Το ISO PAS 21448 (SOTIF) και το επερχόμενο ISO 8800 παρέχουν αναδυόμενη καθοδήγηση.
Η συνολική λειτουργία ασφάλειας αποσυντίθεται σε υποστοιχεία, καθένα με ανατεθειμένο επίπεδο ASIL/SIL. Στο στοιχείο ML ανατίθεται συνήθως χαμηλότερο επίπεδο ASIL/SIL, με τη διαφορά να καλύπτεται από τον ντετερμινιστικό παρακολουθητή ασφάλειας. Αυτή η αποσύνθεση ASIL πρέπει να τεκμηριώνεται και να αναθεωρείται τυπικά. Το συνολικό σύστημα πρέπει να πληροί την απαίτηση ASIL/SIL ανώτατου επιπέδου.
Σημείωση για τα πρότυπα: Η μεθοδολογία για τη δημιουργία φακέλων ασφάλειας για στοιχεία ML εξελίσσεται ενεργά. Το ISO/TR 4804, το UL 4600 και το υπό ανάπτυξη ISO 8800 (AI και οδικά οχήματα) παρέχουν την πιο επίκαιρη καθοδήγηση. Οι φορείς πιστοποίησης και οι κατασκευαστές αυτοκινήτων (OEM) εξακολουθούν να καθορίζουν τις θέσεις αποδοχής τους για συγκεκριμένες τεχνικές — τι συνιστά επαρκή στατιστική απόδειξη, ποιες προσεγγίσεις ανίχνευσης OOD είναι αποδεκτές και πώς εφαρμόζεται η αποσύνθεση ASIL σε ζεύγη λογισμικού ML-συμβατικού. Επικοινωνείτε πάντα νωρίς με τον στοχευόμενο φορέα πιστοποίησής σας για να ευθυγραμμιστείτε ως προς το πακέτο αποδείξεων.
Τα συστήματα edge κρίσιμα για την ασφάλεια επιβάλλουν περιορισμούς που αποκλείουν τα περισσότερα μοτίβα ανάπτυξης AI γενικής χρήσης. Ακολουθούν οι μηχανικοί περιορισμοί που διαμορφώνουν κάθε ανάπτυξη edge AI σε ένα αυτοκινητιστικό ή βιομηχανικό πλαίσιο ασφάλειας, και οι επιλογές αλυσίδας εργαλείων που τους αντιμετωπίζουν.
Τα αυτοκινητιστικά συστήματα ασφάλειας απαιτούν συνήθως καθυστέρηση από άκρο σε άκρο κάτω από 10–50ms. Οι βιομηχανικοί βρόχοι ελέγχου μπορεί να είναι στενότεροι: 1–10ms για λειτουργίες σκληρού πραγματικού χρόνου. Η εξαγωγή συμπερασμάτων edge AI πρέπει να αναλύεται στη χείριστη καθυστέρηση (99ο εκατοστημόριο), όχι στη μέση καθυστέρηση, έναντι του διαθέσιμου περιθωρίου χρονισμού.
Τα συστήματα edge κρίσιμα για την ασφάλεια δεν πρέπει να εξαρτώνται από τη συνδεσιμότητα cloud για την εξαγωγή συμπερασμάτων σε πραγματικό χρόνο. Το cloud μπορεί να χρησιμοποιηθεί για εκπαίδευση μοντέλων, παρακολούθηση και ενορχήστρωση ενημερώσεων over-the-air, αλλά η διαδρομή εξαγωγής συμπερασμάτων πρέπει να λειτουργεί πλήρως εκτός σύνδεσης. Οι κατατμήσεις δικτύου είναι συνθήκη σχεδιασμού, όχι ακραία περίπτωση.
Οι αυτοκινητιστικές ECU και οι βιομηχανικοί PLC/ελεγκτές edge λειτουργούν συνήθως σε πυρήνες ARM Cortex-M/R ή RISC-V με 256KB–4MB RAM. Τα πλήρη μοντέλα βαθιάς μάθησης δεν χωρούν. Τεχνικές: κβαντοποίηση INT8 (TensorFlow Lite Micro, ONNX Runtime για MCUs), δομημένο κλάδεμα, απόσταξη γνώσης σε μικρότερες αρχιτεκτονικές (MobileNet, EfficientNet-Lite, προσαρμοσμένα CNN).
Η κυρίαρχη διαδρομή ανάπτυξης παραγωγής για edge AI σε περιορισμένα περιβάλλοντα: εκπαίδευση σε PyTorch → εξαγωγή σε ONNX → βελτιστοποίηση με TensorRT (NVIDIA Jetson / Drive) ή ONNX Runtime με delegate XNNPACK/NNAPI (SoC ARM). Το ONNX Runtime υποστηρίζει επίσης ανάπτυξη MCU μέσω ONNX Runtime for Microcontrollers. Αυτές οι αλυσίδες εργαλείων έχουν τεκμηριωμένη συμπεριφορά που πρέπει να επικυρωθεί στον φάκελο ασφάλειας.
Τα συστήματα ασφάλειας απαιτούν η ίδια είσοδος να παράγει πάντα την ίδια έξοδο. Αυτό απαιτεί: αριθμητική σταθερής υποδιαστολής (INT8 αντί FP32), απενεργοποιημένες βελτιστοποιήσεις χρόνου εκτέλεσης που ποικίλλουν μεταξύ εκτελέσεων, σταθερή συγγένεια νημάτων, καμία δυναμική εκχώρηση μνήμης κατά την εξαγωγή συμπερασμάτων. Η επίτευξη ντετερμινισμού ακριβείας bit σε όλες τις αναπτύξεις απαιτεί προσεκτική διαμόρφωση της αλυσίδας εργαλείων και επικύρωση υλικού.
Οι ελεγκτές ασφάλειας edge έχουν σταθερούς φακέλους μνήμης — συχνά όχι περισσότερο από 4–16MB Flash και 1–4MB RAM που μοιράζονται σε ολόκληρη την εφαρμογή. Οι προϋπολογισμοί ισχύος σε συσκευές με μπαταρία ή θερμικά περιορισμένες περιορίζουν τη συχνότητα εξαγωγής συμπερασμάτων. Η κβαντοποίηση μοντέλου και η προγραμματισμένη (αντί για συνεχή) εξαγωγή συμπερασμάτων είναι συνήθεις λύσεις.
Ανάπτυξη Physical AI
Αρχιτεκτονική edge AI και ενσωματωμένη αλυσίδα εργαλείων εξαγωγής συμπερασμάτων για συστήματα κοντά στην ασφάλεια
Domain Expert LLM Lab
Αγωγοί εκπαίδευσης, κβαντοποίησης και επικύρωσης μοντέλων για περιορισμένο υλικό
Κυρίαρχο LLM (δημόσιος τομέας)
AI απομονωμένο από δίκτυο για κρίσιμες υποδομές και διαβαθμισμένα περιβάλλοντα
Τα παρακάτω είναι μια πραγματολογική παρουσίαση του υπόβαθρου της Hyperion όπως σχετίζεται με το edge AI σε συστήματα κρίσιμα για την ασφάλεια. Πρόκειται για επαληθευμένα γεγονότα, όχι για ισχυρισμούς μάρκετινγκ.
Γνωστοποίηση πεδίου: Η Hyperion είναι μια συμβουλευτική εταιρεία αρχιτεκτονικής AI και edge. Συμβουλεύουμε για το στρώμα AI/edge — αρχιτεκτονική, επιλογή αλυσίδας εργαλείων, σχεδιασμό παρακολουθητή ασφάλειας, ορισμό ODD, δομή πακέτου αποδείξεων. Δεν είμαστε φορέας πιστοποίησης, κοινοποιημένος φορέας ή διαπιστευμένος αξιολογητής ασφάλειας. Δεν εκδίδουμε πιστοποιήσεις ASIL ή SIL. Η τυπική εργασία πιστοποίησης απαιτεί διαπιστευμένο τρίτο μέρος.
Ο ιδρυτής Mohammed Cherifi πέρασε 17+ έτη στη μηχανική αυτοκινήτων και ενσωματωμένων συστημάτων, συμπεριλαμβανομένης εργασίας στη Renault-Nissan-Mitsubishi Alliance, τη Cisco και την ABB. Αυτό το υπόβαθρο περιλαμβάνει άμεση έκθεση σε διαδικασίες λειτουργικής ασφάλειας στην ανάπτυξη λογισμικού οχημάτων, ενσωματωμένα συστήματα ελέγχου και τους λειτουργικούς περιορισμούς περιβαλλόντων κρίσιμων για την ασφάλεια. Η Hyperion φέρνει αυτή την εμπειρία στο στρώμα AI/edge — όχι ως φορέας πιστοποίησης, αλλά ως μια ομάδα μηχανικών που κατανοεί το περιβάλλον.
Το εμβληματικό εγχείρημα της Hyperion, το Auralink, είναι μια πλατφόρμα πρακτόρων αναπτυγμένη στο edge, χτισμένη σε 400+ microservices με περίπου 20 πράκτορες AI. Η αρχιτεκτονική του Auralink καταδεικνύει τα μηχανικά μοτίβα που απαιτούνται για εξαγωγή συμπερασμάτων AI σε περιορισμένο υλικό edge — διαδρομές εξαγωγής συμπερασμάτων χαμηλής καθυστέρησης, ντετερμινιστικά όρια ελέγχου και διαχωρισμό μεταξύ του συμβουλευτικού στρώματος AI και του έγκυρου στρώματος ελέγχου. Αυτό είναι μεταβιβάσιμη απόδειξη της αρχιτεκτονικής πειθαρχίας που απαιτείται για edge AI κοντά στην ασφάλεια, όχι πιστοποίηση ασφάλειας.
Η υπηρεσία physical-ai-deployment της Hyperion καλύπτει την αρχιτεκτονική edge AI, την επιλογή ενσωματωμένης αλυσίδας εργαλείων εξαγωγής συμπερασμάτων και το στρώμα ολοκλήρωσης μεταξύ της εξαγωγής συμπερασμάτων AI και των συστημάτων ελέγχου OT/ενσωματωμένων. Ο ρόλος μας είναι το στρώμα αρχιτεκτονικής AI και edge. Συμβουλεύουμε για το πού ταιριάζουν τα στοιχεία ML εντός μιας αρχιτεκτονικής ασφάλειας, πώς να δομηθεί ο παρακολουθητής ασφάλειας και η διαδρομή εφεδρείας, και ποιες αλυσίδες εργαλείων είναι κατάλληλες για το υλικό. Δεν είμαστε φορέας πιστοποίησης και δεν εκδίδουμε πιστοποιήσεις ASIL/SIL — αυτή η εργασία απαιτεί κοινοποιημένο φορέα.
Ένα preprint δημοσιευμένο στο arXiv καλύπτει αυτόνομους πράκτορες AI αναπτυγμένους στο edge για φυσική υποδομή. Πρόκειται για εργασία κοντά στον ακαδημαϊκό χώρο — ένα preprint, όχι δημοσίευση σε περιοδικό με κριτές — αλλά αντικατοπτρίζει το αρχιτεκτονικό βάθος που εφαρμόζει η Hyperion σε αναπτύξεις edge AI σε φυσικά συστήματα.
Ο Mohammed Cherifi κατέχει το διαπιστευτήριο Πρεσβευτή AI από το πρόγραμμα Osez l'IA της Γαλλικής Κυβέρνησης και έχει αναγνωριστεί από το FranceNum. Αυτό αντικατοπτρίζει τη συμμετοχή στην πολιτική AI και τις κανονιστικές προκλήσεις της ανάπτυξης AI σε ρυθμιζόμενα βιομηχανικά και αυτοκινητιστικά περιβάλλοντα.
Όχι ως μοναδική λειτουργία ασφάλειας — όχι με την τρέχουσα μεθοδολογία και τις θέσεις αποδοχής των περισσότερων φορέων πιστοποίησης. Η τυπική προσέγγιση είναι η ανάπτυξη του στοιχείου ML σε χαμηλότερο επίπεδο ASIL/SIL (π.χ. ASIL B ή QM), με έναν ντετερμινιστικό παρακολουθητή ασφάλειας πιστοποιημένο στο υψηλότερο επίπεδο να καλύπτει τη διαφορά μέσω αποσύνθεσης ASIL. Το συνολικό σύστημα μπορεί τότε να πληροί το ASIL D, αλλά το ίδιο το στοιχείο ML δεν φέρει αυτόν τον χαρακτηρισμό. Αυτή η θέση αντικατοπτρίζει την τρέχουσα καθοδήγηση του ISO 26262-6:2018 και του IEC TR 63069:2019 — θα εξελιχθεί καθώς οι φορείς τυποποίησης αναπτύσσουν καθοδήγηση ειδική για το ML (ISO/TR 4804, ISO 8800).
Το SOTIF (Safety of the Intended Function), δημοσιευμένο ως ISO 21448:2022, αντιμετωπίζει κινδύνους που προκύπτουν όχι από αστοχίες συστήματος αλλά από τους περιορισμούς της ίδιας της προβλεπόμενης λειτουργίας — κενά αντίληψης, απρόσμενες περιβαλλοντικές συνθήκες και συμπεριφορά στα όρια του ODD. Το ISO 26262 καλύπτει αστοχίες του συστήματος σε σχέση με την προδιαγραφή του. Το SOTIF καλύπτει ανεπάρκειες της ίδιας της προδιαγραφής. Για λειτουργίες ADAS και αυτόνομες, ισχύουν και τα δύο πρότυπα: πρέπει να αποδείξετε τόσο ότι το σύστημα αστοχεί με ασφάλεια (ISO 26262) όσο και ότι η προβλεπόμενη συμπεριφορά του είναι ασφαλής σε ολόκληρο το ODD (SOTIF/ISO 21448).
Ένας παρακολουθητής ασφάλειας είναι ένα ντετερμινιστικό, ανεξάρτητα επαληθευμένο στοιχείο λογισμικού ή υλικού που εκτελείται παράλληλα με το στοιχείο ML. Ελέγχει την έξοδο του ML έναντι ενός συνόλου τυπικών περιορισμών ασφάλειας — φυσικά όρια, όρια ρυθμού μεταβολής, συνέπεια με δεδομένα αισθητήρων — και μπλοκάρει ή υπερισχύει κάθε εξόδου που παραβιάζει αυτούς τους περιορισμούς. Ο παρακολουθητής ασφάλειας πιστοποιείται στο απαιτούμενο επίπεδο ASIL/SIL ανεξάρτητα από το μοντέλο ML. Αυτός ο διαχωρισμός είναι το βασικό αρχιτεκτονικό μοτίβο για την ανάπτυξη ML σε συστήματα κρίσιμα για την ασφάλεια: το στοιχείο ML είναι συμβουλευτικό, ο παρακολουθητής είναι έγκυρος.
Το ODD ορίζει τις συγκεκριμένες συνθήκες υπό τις οποίες το σύστημα ML είναι έγκυρο: περιβαλλοντικές παραμέτρους (θερμοκρασία, φωτισμός, καιρός), χαρακτηριστικά δεδομένων εισόδου (εύρη αισθητήρων, μορφές δεδομένων, ποιότητα σήματος), καταστάσεις λειτουργίας του οχήματος ή της μηχανής, και γεωγραφικούς ή ειδικούς για την εφαρμογή περιορισμούς. Κάθε είσοδος που πέφτει εκτός του ODD δεν θα πρέπει να επεξεργάζεται από το στοιχείο ML — το σύστημα πρέπει να μεταβαίνει σε κατάσταση εφεδρείας. Ο ορισμός, η επικύρωση και η παρακολούθηση του ορίου του ODD είναι μία από τις σημαντικότερες μηχανικές εργασίες σε μια ανάπτυξη ML κρίσιμη για την ασφάλεια.
Το IEC 62443 ορίζει ένα μοντέλο ζωνών και αγωγών για τη βιομηχανική κυβερνοασφάλεια. Οι διακομιστές εξαγωγής συμπερασμάτων AI, όπως κάθε στοιχείο IT, πρέπει να τοποθετούνται στη σωστή ζώνη (συνήθως Ζώνη 3 — Εποπτεία) και όλες οι επικοινωνίες με τη Ζώνη 2 (Έλεγχος) πρέπει να διέρχονται μέσω ενός αγωγού με καθορισμένους ελέγχους ασφάλειας: έλεγχο ταυτότητας, κρυπτογράφηση, επαλήθευση ακεραιότητας μηνυμάτων. Η ανάπτυξη ενός διακομιστή εξαγωγής συμπερασμάτων AI που επικοινωνεί απευθείας με PLC ή συσκευές πεδίου χωρίς ελέγχους αγωγού παραβιάζει το μοντέλο ζωνών. Ο ίδιος ο διακομιστής AI πρέπει να πληροί τις απαιτήσεις του επιπέδου ασφάλειας (SL) της ζώνης του, συμπεριλαμβανομένης της διαχείρισης ενημερώσεων, του ελέγχου ταυτότητας και της καταγραφής ελέγχου.
Δεν υπάρχει ένας μοναδικός κατάλογος αποδεκτών διαμορφώσεων — εξαρτάται από το στοχευόμενο επίπεδο ASIL/SIL, τον φορέα πιστοποίησης και τη συγκεκριμένη περίπτωση χρήσης. Γενικά: τα μοντέλα βελτιστοποιημένα με TensorRT σε πλατφόρμες NVIDIA Drive/Jetson χρησιμοποιούνται ευρέως σε προγράμματα ADAS έως ASIL B, με παρακολουθητές διασφάλισης χρόνου εκτέλεσης. Το ONNX Runtime σε SoC ARM χρησιμοποιείται σε βιομηχανικές εφαρμογές σε SIL 1–2. Για υψηλότερα επίπεδα ακεραιότητας, μπορεί να απαιτείται τυπική πιστοποίηση του ίδιου του χρόνου εκτέλεσης εξαγωγής συμπερασμάτων (πιστοποίηση εργαλείου κατά ISO 26262-8). Η Hyperion συμβουλεύει για την επιλογή αλυσίδας εργαλείων και τη στρατηγική πιστοποίησης — η τυπική εργασία πιστοποίησης απαιτεί τη συμμετοχή του προμηθευτή της αλυσίδας εργαλείων.
Όχι. Η Hyperion είναι μια συμβουλευτική εταιρεία αρχιτεκτονικής AI και edge. Συμβουλεύουμε για το πού ταιριάζουν τα στοιχεία ML εντός αρχιτεκτονικών ασφάλειας, πώς να δομηθούν οι παρακολουθητές ασφάλειας και οι διαδρομές εφεδρείας, ποιες αλυσίδες εργαλείων edge είναι κατάλληλες για περιορισμένο υλικό, και πώς να σχεδιαστούν αναπτύξεις συμβατές με τις απαιτήσεις λειτουργικής ασφάλειας και IEC 62443. Οι πραγματικές αξιολογήσεις πιστοποίησης ASIL/SIL — η εργασία αξιολόγησης συμμόρφωσης που παράγει ένα πιστοποιητικό — πρέπει να εκτελούνται από διαπιστευμένο τρίτο αξιολογητή ή κοινοποιημένο φορέα. Η Hyperion μπορεί να σας βοηθήσει να προετοιμαστείτε για αυτή την αξιολόγηση και να σχεδιάσετε την αρχιτεκτονική ώστε να γίνει εφικτή, αλλά δεν εκδίδουμε πιστοποιήσεις.
Η λειτουργική ασφάλεια (ISO 26262, IEC 61508) ρωτά: αστοχεί το σύστημα με ασφάλεια; Εστιάζει στους τρόπους αστοχίας υλικού και λογισμικού, στην ανοχή σφαλμάτων και στην ακεραιότητα των λειτουργιών ασφάλειας όταν αστοχούν εξαρτήματα. Το IEC 62443 ρωτά: είναι το σύστημα προστατευμένο από σκόπιμη επίθεση; Εστιάζει σε ελέγχους κυβερνοασφάλειας — έλεγχο ταυτότητας, κρυπτογράφηση, κατάτμηση δικτύου, διαχείριση ευπαθειών. Και τα δύο απαιτούνται για βιομηχανικά συστήματα AI: ένα σύστημα μπορεί να είναι λειτουργικά ασφαλές (αστοχεί ομαλά) αλλά ευάλωτο στην κυβερνοασφάλεια (μπορεί να δεχθεί επίθεση και να οδηγηθεί σε αστοχία). Ειδικά για τα συστήματα AI, οι ανταγωνιστικές επιθέσεις είναι σημείο επικάλυψης — μια σκόπιμα ανταγωνιστική είσοδος μπορεί να προκαλέσει μη ασφαλή συμπεριφορά ML που μια αξιολόγηση λειτουργικής ασφάλειας από μόνη της δεν θα αποκάλυπτε.
ISO 26262:2018 (2018). "Road vehicles — Functional safety (Parts 1–12)."
Πλαίσιο: Το κύριο πρότυπο λειτουργικής ασφάλειας αυτοκινήτου. Το Μέρος 6 καλύπτει απαιτήσεις ανάπτυξης λογισμικού, συμπεριλαμβανομένων μετρικών δομικής κάλυψης ειδικών για το ASIL. Το Μέρος 10 περιλαμβάνει καθοδήγηση για στοιχεία AI/ML (μη κανονιστική κατά τον χρόνο δημοσίευσης, εξελισσόμενη σε επόμενες εκδόσεις).
ISO 21448:2022 (2022). "Road vehicles — Safety of the intended functionality (SOTIF)."
Πλαίσιο: Αντιμετωπίζει κινδύνους από λειτουργικές ανεπάρκειες στην προδιαγραφή ή την απόδοση της προβλεπόμενης λειτουργικότητας, συμπεριλαμβανομένων των περιορισμών αισθητήρων και της συμπεριφοράς στα όρια του ODD σε συστήματα ADAS και αυτόνομης οδήγησης.
ISO/TR 4804:2020 (2020). "Road vehicles — Safety and cybersecurity for automated driving systems — Design, verification and validation."
Πλαίσιο: Τεχνική έκθεση που παρέχει καθοδήγηση για τον συνδυασμό ανάλυσης λειτουργικής ασφάλειας και κυβερνοασφάλειας για την αυτοματοποιημένη οδήγηση. Καλύπτει το SOTIF, το ISO 26262 και παραπομπές στο SAE J3061.
IEC 61508:2010 (2010). "Functional safety of electrical/electronic/programmable electronic safety-related systems (Parts 1–7)."
Πλαίσιο: Το γενικό διεθνές πρότυπο για τη λειτουργική ασφάλεια συστημάτων E/E/PE. Ορίζει τα SIL 1–4, την πιθανότητα αστοχίας κατ' απαίτηση (PFD) και απαιτήσεις για την ανάπτυξη και επικύρωση λογισμικού.
IEC 62443 Series (2018–2024). "Industrial automation and control systems — Security."
Πλαίσιο: Πρότυπο πολλαπλών μερών που καλύπτει την κυβερνοασφάλεια για τη λειτουργική τεχνολογία. Το IEC 62443-3-3 ορίζει τα επίπεδα ασφάλειας (SL) και το μοντέλο ζωνών/αγωγών. Το IEC 62443-4-2 καλύπτει απαιτήσεις ασφάλειας εξαρτημάτων που ισχύουν για διακομιστές εξαγωγής συμπερασμάτων AI σε δίκτυα OT.
IEC TR 63069:2019 (2019). "Industrial-process measurement, control and automation — Framework for functional safety and security."
Πλαίσιο: Τεχνική έκθεση που αντιμετωπίζει τη σχέση μεταξύ λειτουργικής ασφάλειας (IEC 61508) και κυβερνοασφάλειας (IEC 62443). Άμεσα σχετική με αναπτύξεις AI που εκτείνονται και στους δύο τομείς.
UL 4600:2020 (2020). "Standard for Safety for the Evaluation of Autonomous Products."
Πλαίσιο: Το πρώτο ολοκληρωμένο πρότυπο που αντιμετωπίζει ειδικά τα αυτόνομα συστήματα βασισμένα σε ML. Καλύπτει τη δημιουργία φακέλου ασφάλειας, τον ορισμό ODD, τη λειτουργική παρακολούθηση και τη διασφάλιση χρόνου εκτέλεσης για στοιχεία ML. Αναφέρεται ευρέως σε βορειοαμερικανικά αυτοκινητιστικά προγράμματα.
ISO/IEC TR 24029-2:2023 (2023). "Artificial Intelligence — Assessment of the robustness of neural networks — Part 2: Methodology for use in formal methods."
Πλαίσιο: Παρέχει καθοδήγηση για μεθοδολογίες δοκιμών ευρωστίας για νευρωνικά δίκτυα, συμπεριλαμβανομένης της ανταγωνιστικής ευρωστίας — σχετική τόσο με τη λειτουργική ασφάλεια όσο και με την ανάλυση κυβερνοασφάλειας IEC 62443.
Οι αναπτύξεις ML κρίσιμες για την ασφάλεια απαιτούν κάτι περισσότερο από καλή απόδοση μοντέλου — απαιτούν μια υπερασπίσιμη αρχιτεκτονική, τη σωστή αλυσίδα εργαλείων για τους περιορισμούς υλικού και έναν τεκμηριωμένο φάκελο ασφάλειας που μπορεί να αποδεχθεί ένας φορέας πιστοποίησης. Η Hyperion φέρνει 17+ έτη εμπειρίας στη μηχανική αυτοκινήτων και ενσωματωμένων συστημάτων στο στρώμα AI/edge. Συμβουλεύουμε για την αρχιτεκτονική και τη στρατηγική αποδείξεων· η τυπική πιστοποίηση παραμένει στον αρμόδιο διαπιστευμένο φορέα. Ξεκινήστε με μια εστιασμένη αναθεώρηση αρχιτεκτονικής.
Ιδρυτής & Επικεφαλής Στρατηγικής AI
Ο Mohammed Cherifi είναι ο ιδρυτής της Hyperion Consulting, με 17+ έτη στη μηχανική αυτοκινήτων και ενσωματωμένων συστημάτων. Έχει εργαστεί στη Renault-Nissan-Mitsubishi Alliance, τη Cisco και την ABB — περιβάλλοντα όπου οι διαδικασίες λειτουργικής ασφάλειας διέπουν την ανάπτυξη λογισμικού. Ειδικεύεται στην αρχιτεκτονική edge AI για φυσικά συστήματα, συμπεριλαμβανομένων αναπτύξεων κοντά στην ασφάλεια σε αυτοκινητιστικά και βιομηχανικά περιβάλλοντα OT.
Αρχιτεκτονική edge AI και ενσωματωμένη εξαγωγή συμπερασμάτων για φυσικά συστήματα
Από την προσομοίωση στην ανάπτυξη παραγωγής στη ρομποτική κατασκευής
Κυρίαρχη, απομονωμένη από δίκτυο ανάπτυξη AI για βιομηχανικά περιβάλλοντα
Το 6-στρωματικό Physical AI Stack για ρομποτική, edge AI και βιομηχανικό αυτοματισμό