Lifecycle stage — Build
De moeilijkste horde tussen een werkend AI-prototype en een ingezette veiligheidskritische machine is de safety case — het gestructureerde argument, ondersteund door bewijzen, dat het systeem acceptabel veilig is. Machine learning doorbreekt de aannames waarop traditionele functionele veiligheidsprocessen zijn gebouwd: er is geen regel-voor-regel specificatie om te traceren, het gedrag is statistisch van aard, en aangemelde instanties accepteren geen ongedocumenteerd model in een voertuig, een luchtvaarsysteem of een industriële lijn. Safety-case- en certificeringsbewijsengineering is de bekwaamheid om dat argument en die bewijsketen te produceren — gevarenanalyse, risicobeoordeling, ASIL/DAL/SIL-decompositie, assurance-case-constructie en verificatie-en-validatie-traceerbaarheid — gekoppeld aan de norm die uw domein regelt. Dit is de scherpste scheidslijn tussen een Physical-AI-specialist en een generalistische AI-consultant, en het is de nummer-één-blokkade in elk veiligheidskritisch domein. Om de grens expliciet te stellen: een aangemelde instantie kent de werkelijke veiligheidsclassificatie toe en certificeert het systeem. Ik ontwikkel de safety case en de bewijzen die zij beoordelen — ik geef geen certificeringen uit.
ML doorbreekt traditionele V&V. Functionele veiligheidsnormen veronderstellen een specificatie die test voor test te traceren is; een geleerd model heeft er geen. Het assurance-argument moet worden opgebouwd voor statistisch gedrag, en de meeste teams beschikken niet over de methode om dat te doen.
Aangemelde instanties wijzen ongedocumenteerde ML af. Een model dat goed presteert in validatie maar zonder gevarenanalyse, eisendecompositie en traceerbare bewijsketen aankomt, doorstaat de conformiteitsbeoordeling niet — prestatie is noodzakelijk maar lang niet voldoende.
De bewijzen moeten van het begin af aan worden ontwikkeld, niet achteraf worden samengesteld. Een safety case achteraf op een systeem enten dat niet was ontworpen om bewijzen te produceren, is de duurste manier om te ontdekken wat de norm vereiste.
Gekoppeld aan de norm die uw domein regelt — ISO 26262 (automotive), DO-178C/EASA (lucht- en ruimtevaart), IEC 61508 (industrie), ISO 13482 (servicerobots) — en afgebakend tot een gedefinieerde systeemfunctie.
De HARA uitvoeren (of het domeinequivalent): gevaren identificeren, blootstelling/beheersbaarheid/ernst beoordelen en de risicoklassificatievragen afleiden die een aangemelde instantie zal stellen — zonder de classificatie te voorspellen die zij toewijst.
Veiligheidsdoelen ontleden in functionele en technische veiligheidseisen die over de architectuur zijn verdeeld, inclusief het ML-element en zijn veiligheidsmechanismen, monitors en terugvalmogelijkheden.
Het gestructureerde assurance-argument bouwen (bijv. GSN) dat claims aan bewijzen koppelt, zodat het veiligheidsredenering expliciet en controleerbaar is in plaats van impliciet en aangenomen.
De verificatie-en-validatie-bewijzen en de traceerbaarheidsmatrix van eis naar test definiëren en samenstellen, zodat het technische dossier volledig en auditgereed is.
Automotive OEM's en Tier-1-leveranciers (ISO 26262), lucht- en ruimtevaart- en defensiebedrijven (DO-178C/EASA), industrie- en robotica-integratoren (IEC 61508, ISO 10218/13482) en energiebedrijven die ML inzetten in functies waarbij een veiligheidsincident een regelgevend en aansprakelijkheidsgebeurtenis is — geen bugticket. Voor teams die een werkend model hebben en nu moeten bewijzen dat het veilig is.
Nee. Een aangemelde instantie of geaccrediteerde beoordelaar kent de veiligheidsclassificatie toe en certificeert het systeem. Ik ontwikkel de safety case en de bewijsketen die zij beoordelen — de gevarenanalyse, de eisendecompositie, de assurance case en de V&V-traceerbaarheid. Het tegendeel beweren zou oneerlijk zijn, en een aangemelde instantie zou het opmerken.
De norm die uw domein regelt — ISO 26262 voor automotive, DO-178C/EASA voor lucht- en ruimtevaart, IEC 61508 voor industriële functionele veiligheid, ISO 10218/13482 voor robots. De eerste stap van de opdracht stelt de van toepassing zijnde norm en de systeemgrens vast.
EU-AI-Act-conformiteit betreft de governance- en documentatieverplichtingen van de verordening. Functionele veiligheidscertificering is een apart, ouder en diepgaander regime over de fysieke veiligheid van de machine. Een veiligheidskritisch AI-systeem heeft doorgaans beide nodig; deze dienst dekt de functionele veiligheidshelft.
Ontdek andere diensten die dit aanbod aanvullen
30 minuten. Ik diagnosticeer uw situatie en zeg u eerlijk of deze dienst past — en zo niet, welke wel.