يتطلب نشر الشبكات العصبية في الأنظمة الحرجة للسلامة في قطاعات السيارات والصناعة والأنظمة المضمّنة التوفيق بين فلسفتين هندسيتين مختلفتين جوهريًا: العالم الاحتمالي القائم على البيانات للتعلّم الآلي، والعالم الحتمي القائم على الأدلة للسلامة الوظيفية. يشرح هذا الدليل المعايير التي تحكم هذه البيئات — ISO 26262 وSOTIF/ISO 21448 وIEC 61508 وIEC 62443 — وكيفية هيكلة نشر ML يمكن لمهندس السلامة قبوله.
آخر مراجعة: مايو 2026
السلامة الوظيفية هي الجزء من السلامة الإجمالية لنظام ما الذي يعتمد على التشغيل الصحيح للمكوّنات الكهربائية والإلكترونية والإلكترونية القابلة للبرمجة. عند نشر مكوّن ذكاء اصطناعي أو ML في نظام حرج للسلامة — الكبح الطارئ الذاتي، والإيقاف الطارئ الصناعي، وتخطيط الحركة الروبوتية — تتطلب معايير السلامة الوظيفية أدلة على أن النظام يفشل بأمان، ويتصرف بشكل صحيح ضمن ظروف تشغيله المحددة، ويتحمّل أعطال العتاد والبرمجيات. التحدّي بالنسبة للتعلّم الآلي هو أن هذه المعايير صُمّمت للبرمجيات الحتمية، والشبكات العصبية ليست حتمية بالمعنى التقليدي.
معايير السلامة الوظيفية التي تحكم أنظمة السيارات والصناعة — ISO 26262 وIEC 61508 وIEC 62061 — طُوّرت للبرمجيات الحتمية: شيفرة تعالج المدخلات عبر منطق محدد وتنتج مخرجات يمكن تحديدها رسميًا، واختبارها مقابل معايير التغطية الهيكلية، والتحقق من صحتها ضمن ظروف تشغيل النظام.
الشبكات العصبية لا تنسجم مع هذا النموذج. فهي تُدرَّب — لا تُبرمَج — وينبثق سلوكها من ملايين المعاملات المتعلَّمة بدلًا من منطق صريح. المُدخَل نفسه المُقدَّم مرتين قد يُنتج مخرجات مختلفة قليلًا بحسب سلوك الفاصلة العائمة في العتاد وجدولة الخيوط. أنماط فشلها إحصائية لا حتمية: تؤدي جيدًا في المتوسط لكنها قد تفشل على مدخلات محددة كانت ممثَّلة تمثيلًا ناقصًا في بيانات التدريب. ولا يمكن التحقق منها بشكل شامل مقابل مواصفة رسمية لأنه لا توجد مواصفة رسمية — المواصفة ضمنية في بيانات التدريب.
يخلق هذا توترًا جوهريًا يجب أن يحلّه كل مهندس ينشر الذكاء الاصطناعي في نظام حرج للسلامة: كيف تبني ملف سلامة لمكوّن لا يمكن تحديد سلوكه أو التحقق منه رسميًا بالمعنى التقليدي؟ الإجابة — التي تنبثق الآن من هيئات التقييس واتحادات الصناعة وتجارب البرامج المبكرة — تجمع بين أنماط معمارية (مراقبات السلامة، تعريف ODD، مسارات الاحتياط) وأدلة إحصائية (مجموعات تحقق كبيرة، اختبارات المتانة) تشكّل معًا ملف سلامة قابلًا للدفاع.
تمثّل التوترات الأساسية الستة أدناه التحديات الهندسية التي يجب أن يعالجها كل نشر ML حرج للسلامة.
تفترض معايير السلامة الوظيفية (ISO 26262 وIEC 61508) سلوكًا حتميًا: بإعطاء المدخلات نفسها، تنتج وظيفة السلامة المخرجات نفسها في كل مرة. الشبكات العصبية المدرَّبة بالنزول التدرجي العشوائي والإسقاط (dropout) لا تقدّم هذا الضمان. حتى المدخلات المتطابقة قد تُنتج مخرجات مختلفة قليلًا بحسب تنفيذ الفاصلة العائمة في العتاد وجدولة الخيوط.
تتطلب ملفات السلامة إمكانية التتبّع — يجب أن تكون قادرًا على تفسير سبب اتخاذ النظام قرارًا ما وإثبات أنه لا يمكن اتخاذ أي قرار غير آمن ضمن نطاق التصميم التشغيلي (ODD) المحدد. الشبكات العصبية العميقة غامضة جوهريًا. توفّر طرق القابلية للتفسير (SHAP وLIME وخرائط الانتباه) تقريبات لا براهين.
النموذج المدرَّب على توزيع من بيانات التدريب قد يتصرف بشكل غير متوقع على مدخلات تقع خارج ذلك التوزيع — وهي مشكلة تُعرف بانزياح التوزيع. تتطلب معايير السلامة أن يتصرف النظام بشكل صحيح عبر مجموعة ظروف تشغيله المحددة بالكامل. يتعارض انزياح التوزيع جوهريًا مع هذا المتطلب.
تُتحقَّق البرمجيات التقليدية الحرجة للسلامة مقابل مواصفات رسمية باستخدام مقاييس التغطية الهيكلية (MC/DC لـ ASIL D). لا يمكن التحقق من الشبكات العصبية بهذه الطريقة — «المواصفة» ضمنية في بيانات التدريب. يحل التحقق الإحصائي على مجموعات بيانات كبيرة محتجَزة محل التحقق الرسمي، لكن سلطات السلامة تختلف حول ما يشكّل دليلًا كافيًا.
تخضع البرمجيات المعتمَدة للسلامة لإدارة تغييرات صارمة: أي تعديل يتطلب إعادة تقييم. قد تُضبَط نماذج الشبكات العصبية بدقة أو تُحدَّث أو تُستبدَل مع تراكم البيانات. كل تحديث قد يُبطل ملف السلامة القائم ويتطلب إعادة تحقق — مما يخلق توترًا بين التحسين التشغيلي وصيانة الاعتماد.
تمتلك أنظمة السلامة الطرفية ميزانيات زمن استجابة شاملة ضيقة — غالبًا أقل من 10ms لحلقات التحكم في الوقت الفعلي. يجب أن يتسع استدلال الشبكات العصبية على العتاد المحدود (MCUs وFPGAs وSoCs الصغيرة) ضمن هذه الميزانية مع ترك هامش لبقية مسار التحكم. يساعد التكميم والتقليم لكنهما يُدخلان أنماط فشل خاصة بهما.
ISO 26262 هو معيار السلامة الوظيفية للسيارات، وينطبق على المركبات الطرقية ذات الكتلة الإجمالية القصوى (MGVM) حتى 3,500 كجم. يحدّد إطار Automotive Safety Integrity Level (ASIL) — أربعة مستويات (من A إلى D) تحدّد صرامة عملية هندسة السلامة المطلوبة لوظيفة سلامة معينة. ASIL D هو الأكثر صرامة؛ وASIL A هو الأقل.
يُحدَّد مستوى ASIL لوظيفة ما عبر تحليل المخاطر وتقييمها (HARA) الذي يراعي ثلاثة عوامل: شدة (S) الضرر المحتمل، والتعرّض (E) للموقف الخطر، وقابلية التحكم (C) من قبل السائق أو المشغّل. يحدّد اجتماع S وE وC تخصيص ASIL.
نموذج V (V-model) هو إطار عملية التطوير: تُحدَّد المتطلبات وتُفكَّك على الذراع الأيسر من حرف V؛ ويقع التنفيذ في الأسفل؛ ويقع التكامل والتحقق واختبارات التصديق على الذراع الأيمن، مرآةً لكل مُنتَج عمل على الذراع الأيسر. يجب تتبّع كل متطلب سلامة من هدف السلامة على مستوى المركبة عبر مستويات النظام والعتاد والبرمجيات، والتحقق منه عند المستوى المقابل على الذراع الأيمن.
يوسّع SOTIF (ISO 21448:2022) معيار ISO 26262 ليشمل المخاطر الناشئة عن حدود الوظيفة المقصودة نفسها — لا عن الأعطال، بل عن مواقف يتصرف فيها النظام تمامًا كما صُمّم لكن التصميم غير كافٍ لظروف التشغيل الفعلية. وهذا وثيق الصلة بـ ML مباشرة: نموذج إدراك يصنّف خطأً أحد المشاة في إضاءة غير معتادة لا «يفشل» بالمعنى التقليدي — بل يعمل كما دُرّب، لكن التدريب كان غير كافٍ لتلك الحالة. يتطلب تحليل SOTIF تحديد ظروف الإطلاق هذه واختبارها بشكل منهجي.
أدنى متطلب للسلامة الوظيفية. ينطبق على الأنظمة التي تكون فيها شدة الخطر منخفضة أو التعرّض غير متكرر.
تداعيات على نشر ML
قد يُقبل التحقق الإحصائي على مجموعات اختبار متوسطة. تكفي مراقبات وقت التشغيل الأساسية.
متطلب سلامة متوسط. يُطبَّق عادة على ميزات مساعدة السائق ذات إمكانية خطر متوسطة.
تداعيات على نشر ML
يتطلب ODD موثَّقًا، ومقاييس أداء عبر الحالات الحدية لـ ODD، ومراقبة المدخلات خارج التوزيع.
متطلب سلامة مرتفع. ينطبق على الأنظمة التي قد تؤدي فيها الأعطال إلى إصابة بالغة دون تخفيف خارجي.
تداعيات على نشر ML
يتطلب ملف سلامة شاملًا. مراقبات ضمان وقت التشغيل، ومسار احتياط صريح، وتحليل SOTIF إلزامية. تُتوقَّع عادة مراجعة من طرف ثالث.
أعلى مستوى للسلامة الوظيفية للسيارات. ينطبق على الأنظمة التي قد يؤدي فيها الفشل إلى مخاطر مهدِّدة للحياة.
تداعيات على نشر ML
تُقتصر مكوّنات الشبكات العصبية عادة على أدوار الإدراك/الاستشارة، ولا تكون أبدًا في مسار التحكم الحرج للسلامة النهائي. مطلوب مراقبات حتمية مكرَّرة. الإجماع الصناعي الحالي: مكوّنات ML الصرفة غير قابلة للاعتماد عند ASIL D كوظيفة سلامة وحيدة.
IEC 61508 هو المعيار العام للسلامة الوظيفية للأنظمة الكهربائية والإلكترونية والإلكترونية القابلة للبرمجة (E/E/PE) المتعلقة بالسلامة. وهو المعيار الأم الذي تُشتق منه المعايير القطاعية: IEC 62061 (الآلات)، وEN 50128 (السكك الحديدية)، وIEC 61511 (صناعة العمليات)، وIEC 61513 (النووي). إطار Safety Integrity Level (SIL) هو مكافئ ASIL في IEC 61508 — أربعة مستويات (SIL 1–4) تُحدَّد باحتمال الفشل عند الطلب (PFD) المطلوب لوظيفة سلامة.
بالنسبة لعمليات نشر الذكاء الاصطناعي في الأنظمة الصناعية، السؤال الجوهري هو: ما مستوى SIL المخصَّص لوظيفة السلامة التي يساهم فيها مكوّن الذكاء الاصطناعي؟ يحدّد هذا صرامة أدلة التحقق المطلوبة والقيود على كيفية استخدام مكوّن الذكاء الاصطناعي ضمن تلك الوظيفة.
المبدأ العام هو نفسه في ISO 26262: يمكن لمكوّنات الشبكات العصبية أن تساهم في وظائف ذات SIL أدنى كعناصر استشارية أو مُطلِقة، لكن وظائف السلامة الأعلى تكاملًا تتطلب تنفيذات حتمية أو مراقبات سلامة حتمية تتجاوز مخرجات مكوّن ML.
أدنى مستوى لسلامة التكامل. ينطبق على الوظائف التي يكون فيها من غير المرجَّح أن يتسبب عطل وحيد في حدث خطر دون عوامل مساهِمة متعددة.
ملاحظة ML
يجب على الأنظمة الاستشارية المبنية على ML التي تغذّي وظيفة سلامة SIL 1 أن تُثبت موثوقية إحصائية ضمن ظروف التشغيل المحددة.
مستوى وسيط. شائع في وظائف السلامة المُجهَّزة بالأدوات في صناعة العمليات: عمليات الإيقاف الطارئ، وإطلاق تخفيف الضغط، وكشف الحريق والغاز.
ملاحظة ML
يجب التعامل مع كشف الشذوذ بـ ML الذي يغذّي إيقاف SIL 2 كعنصر مُطلِق في حلقة السلامة — ويجب إثبات احتمال تشغيله الزائف (الفشل الخطر).
مستوى تكامل مرتفع. يوجد في أنظمة الطوارئ بالمصانع الكيميائية، وإشارات السكك الحديدية، ووظائف دعم الأجهزة النووية.
ملاحظة ML
لا تُقبل مكوّنات الشبكات العصبية حاليًا كتنفيذات لوظيفة سلامة SIL 3 من قبل معظم هيئات الاعتماد. قد يدعم ML التشخيصات أو مسارات البيانات غير الحرجة للسلامة إلى جانب طبقة سلامة حتمية مُثبتة.
أعلى مستوى في IEC 61508. أنظمة حماية المفاعلات النووية، والوظائف الحيوية للسكك الحديدية. نادر للغاية عمليًا.
ملاحظة ML
لا يُقبل أي مكوّن ML عند SIL 4 كجزء من وظيفة السلامة نفسها في الوقت الحالي.
IEC 62443 هو السلسلة الدولية من المعايير للأمن السيبراني لأنظمة الأتمتة والتحكم الصناعية (IACS). يحدّد نموذج المناطق والقنوات: تُقسَّم شبكة التقنية التشغيلية إلى مناطق بناءً على حرجية الأصول التي تحتويها، ويجب أن تمر الاتصالات بين المناطق عبر قنوات محددة ذات ضوابط أمنية مناسبة.
بالنسبة لعمليات نشر الذكاء الاصطناعي، سؤال IEC 62443 هو: في أي منطقة يقع خادم الاستدلال للذكاء الاصطناعي، وما الضوابط الأمنية التي تحكم اتصالاته بشبكة التحكم؟ إن وضع خادم استدلال للذكاء الاصطناعي يتصل مباشرة بوحدات PLC أو أجهزة الميدان دون ضوابط قناة مناسبة ينتهك نموذج المناطق ويخلق خطرًا سيبرانيًا — فالمهاجم الذي يخترق خادم الذكاء الاصطناعي يكسب مسارًا إلى منطقة التحكم.
إضافة إلى ذلك، تشكّل أنظمة الذكاء الاصطناعي سطح هجوم جديدًا: يمكن للمدخلات العدائية — مدخلات مصمَّمة بعناية لجعل النموذج يُنتج مخرجات خاطئة — أن تتسبب في أعطال متعلقة بالسلامة. ينبغي أن يشمل تحليل الأمن السيبراني وفق IEC 62443 لأنظمة الذكاء الاصطناعي اختبار المتانة العدائية إلى جانب ضوابط أمن تقنية المعلومات التقليدية.
شبكات تقنية المعلومات للأعمال — تخطيط موارد المؤسسات، والبريد الإلكتروني المؤسسي، والاتصال السحابي. تمتلك نماذج الذكاء الاصطناعي المنشورة هنا أوسع سطح هجوم وأقل أثر على التقنية التشغيلية عند الاختراق، لكنها أيضًا الأضعف في حداثة البيانات والأعلى في زمن الاستجابة.
إرشادات تموضع الذكاء الاصطناعي
مناسب للذكاء الاصطناعي الخاص بالتقارير، وتلخيص المستندات، وتحليلات الأعمال. غير مناسب للتحكم في الوقت الفعلي أو الاستدلال المجاور للسلامة.
أنظمة التحكم الإشرافي، وقواعد بيانات السجلات التاريخية (historian)، وخوادم SCADA. يمكن للاستدلال للذكاء الاصطناعي المنشور هنا الوصول إلى بيانات العملية في الوقت الفعلي عبر OPC-UA أو OSIsoft PI دون وصول مباشر إلى أجهزة الميدان.
إرشادات تموضع الذكاء الاصطناعي
مناسب للصيانة التنبؤية، والاستشارة في تحسين العمليات، وكشف الشذوذ. يتطلب ضوابط قناة IEC 62443-3-3 إلى المنطقة 2.
وحدات PLC وDCS ووحدات التحكم الميدانية. تعمل هنا حلقات التحكم الحرجة للسلامة. الاستدلال للذكاء الاصطناعي في المنطقة 2 غير معتاد ويتطلب تحصينًا عند SL (مستوى الأمن) 2: المصادقة، والاتصالات المشفَّرة، وتسجيل التدقيق.
إرشادات تموضع الذكاء الاصطناعي
يمكن لمراقبات ضمان وقت التشغيل وكواشف الخارج عن التوزيع أن تعمل هنا إذا سمحت قيود العتاد. تتطلب المسؤولية المباشرة عن وظيفة سلامة تحليل سلامة وظيفية (ISO 26262 / IEC 61508).
أجهزة الاستشعار، والمشغّلات، والأدوات الذكية. أجهزة محدودة للغاية — عادة MCUs أو وحدات RTU بسيطة. يقتصر الاستدلال للذكاء الاصطناعي هنا على نماذج TinyML (مكمَّمة INT8، أقل من 1MB) على معالجات استدلال مساعدة مخصَّصة.
إرشادات تموضع الذكاء الاصطناعي
كشف الشذوذ على تدفقات أجهزة الاستشعار الخام. ممكن بعتاد من فئة MCU عند SL 1. تتطلب المسؤولية عن وظيفة سلامة في هذه الطبقة تقييمًا رسميًا وفق IEC 61508.
تقدّم Hyperion المشورة بشأن طبقة بنية الذكاء الاصطناعي والطرف: أين يندرج ML ضمن بنية السلامة، وكيفية هيكلة مراقب السلامة ومسار الاحتياط، وأي سلسلة أدوات طرفية مناسبة لعتادك، وكيفية إعداد حزمة أدلة السلامة. لسنا هيئة اعتماد — لكننا نساعدك على بناء بنية يمكن لهيئة اعتماد قبولها.
ملف السلامة حجة منظَّمة، مدعومة بالأدلة، على أن نظامًا ما آمن بدرجة مقبولة لتطبيق معين في بيئة معينة. بالنسبة لمكوّنات ML، يجب أن يعالج ملف السلامة أنماط الفشل المحددة للشبكات العصبية — انزياح التوزيع، والغموض، واللاحتمية — باستخدام أنماط معمارية وأدلة إحصائية بدلًا من التحقق الرسمي. تشكّل العناصر الستة التالية جوهر ملف سلامة قابل للدفاع لمكوّن ML على الطرف.
حدّد الظروف الدقيقة التي يكون فيها مكوّن ML صالحًا: الظروف البيئية، ونطاقات بيانات المدخلات، ونطاقات تشغيل أجهزة الاستشعار، وأظرف السرعة/الحمل. ODD هو العقد بين نظام ML وملف السلامة. يجب أن يُطلِق أي مُدخَل خارج ODD حالة آمنة — ويجب ألا يُنتج نظام ML بصمت مخرجات غير آمنة على مدخلات خارج النطاق.
يراقب مراقب حتمي مواز — مُنفَّذ ببرمجيات أو عتاد تقليدي — مخرجات مكوّن ML ويحجب أو يتجاوز أي مخرج ينتهك قيد السلامة. هذا هو النمط القياسي لنشر ML في الأنظمة الحرجة للسلامة: مكوّن ML استشاري، والمراقب الحتمي هو المرجِع. يجب أن يكون المراقب نفسه معتمَدًا عند مستوى ASIL/SIL المطلوب.
يُعلِّم كاشف OOD — يستند عادة إلى خطأ إعادة بناء المُدخَل، أو اختلاف المجموعة، أو مسافة ماهالانوبيس — المدخلات التي تقع خارج توزيع التدريب. عند كشف OOD، ينتقل النظام إلى مسار الاحتياط بدلًا من متابعة الاستدلال. يجب التحقق من كواشف OOD من حيث معدّل سلبياتها الكاذبة ضمن ملف السلامة.
يجب أن يمتلك كل نشر ML حرج للسلامة احتياطًا محددًا: حالة آمنة يدخلها النظام عندما يفشل مكوّن ML، أو يتجاوزه مراقب السلامة، أو يكتشف مُدخَل OOD. يجب أن يُقيَّم الانتقال إلى الحالة الآمنة نفسه وفق ASIL/SIL. أنماط احتياط شائعة: وضع محدود/متحفّظ (سرعة منخفضة، هوامش سلامة متزايدة)، وطلب تولّي السائق/المشغّل، والإيقاف المتحكَّم به.
نظرًا لأن التحقق الرسمي (تغطية MC/DC) لا يمكن تطبيقه على الشبكات العصبية، يحل محله التحقق الإحصائي على مجموعة اختبار كبيرة ومستقلة وممثِّلة. يجب توثيق حجم مجموعة الاختبار وتركيبها، ومقاييس الأداء، وفترات الثقة، وقبولها من سلطة السلامة. يوفّر ISO PAS 21448 (SOTIF) وISO 8800 القادم إرشادات ناشئة.
تُفكَّك وظيفة السلامة الإجمالية إلى عناصر فرعية، يُخصَّص لكل منها مستوى ASIL/SIL. يُخصَّص لمكوّن ML عادة مستوى ASIL/SIL أدنى، مع تعويض الفرق بمراقب السلامة الحتمي. يجب توثيق تفكيك ASIL هذا ومراجعته رسميًا. يجب أن يفي النظام الكلي بمتطلب ASIL/SIL على أعلى مستوى.
ملاحظة بشأن المعايير: تتطور منهجية بناء ملفات السلامة لمكوّنات ML بنشاط. يوفّر ISO/TR 4804 وUL 4600 وISO 8800 قيد التطوير (الذكاء الاصطناعي والمركبات الطرقية) أحدث الإرشادات. لا تزال هيئات الاعتماد ومصنّعو السيارات (OEM) يحددون مواقف قبولهم بشأن تقنيات محددة — ما يشكّل دليلًا إحصائيًا كافيًا، وأي مناهج كشف OOD مقبولة، وكيف ينطبق تفكيك ASIL على أزواج برمجيات ML-التقليدية. تواصل دائمًا مبكرًا مع هيئة الاعتماد المستهدفة للاتفاق على حزمة الأدلة.
تفرض الأنظمة الطرفية الحرجة للسلامة قيودًا تستبعد معظم أنماط نشر الذكاء الاصطناعي للأغراض العامة. فيما يلي القيود الهندسية التي تشكّل كل نشر للذكاء الاصطناعي الطرفي في سياق سلامة سيارات أو صناعي، وخيارات سلسلة الأدوات التي تعالجها.
تتطلب أنظمة سلامة السيارات عادة زمن استجابة شاملًا أقل من 10–50ms. وقد تكون حلقات التحكم الصناعية أضيق: 1–10ms للوظائف ذات الزمن الفعلي الصارم. يجب تحليل أداء استدلال الذكاء الاصطناعي الطرفي عند زمن الاستجابة في أسوأ الحالات (المئين 99)، لا عند المتوسط، مقابل هامش التوقيت المتاح.
يجب ألا تعتمد الأنظمة الطرفية الحرجة للسلامة على الاتصال السحابي للاستدلال في الوقت الفعلي. يمكن استخدام السحابة لتدريب النماذج، والمراقبة، وتنسيق التحديثات عبر الأثير، لكن يجب أن يعمل مسار الاستدلال دون اتصال بالكامل. تقسيمات الشبكة شرط تصميمي لا حالة هامشية.
تعمل وحدات ECU للسيارات ووحدات PLC الصناعية/وحدات التحكم الطرفية عادة على أنوية ARM Cortex-M/R أو RISC-V بذاكرة وصول عشوائي 256KB–4MB. لا تتسع نماذج التعلّم العميق الكاملة. التقنيات: تكميم INT8 (TensorFlow Lite Micro وONNX Runtime لوحدات MCU)، والتقليم المنظَّم، وتقطير المعرفة إلى بنى أصغر (MobileNet وEfficientNet-Lite وشبكات CNN مخصَّصة).
مسار النشر الإنتاجي السائد للذكاء الاصطناعي الطرفي في البيئات المحدودة: التدريب في PyTorch ← التصدير إلى ONNX ← التحسين بـ TensorRT (NVIDIA Jetson / Drive) أو ONNX Runtime مع مفوِّض XNNPACK/NNAPI (SoC من ARM). يدعم ONNX Runtime أيضًا نشر MCU عبر ONNX Runtime for Microcontrollers. تمتلك سلاسل الأدوات هذه سلوكًا موثَّقًا يجب التحقق منه في ملف السلامة.
تتطلب أنظمة السلامة أن يُنتج المُدخَل نفسه دائمًا المخرج نفسه. يتطلب ذلك: حسابًا بفاصلة ثابتة (INT8 بدلًا من FP32)، وتعطيل تحسينات وقت التشغيل التي تتباين بين عمليات التشغيل، وتقارب خيوط ثابتًا، وعدم تخصيص ذاكرة ديناميكي أثناء الاستدلال. يتطلب تحقيق حتمية دقيقة على مستوى البت عبر عمليات النشر تهيئة دقيقة لسلسلة الأدوات والتحقق من العتاد.
تمتلك وحدات تحكم السلامة الطرفية أظرف ذاكرة ثابتة — غالبًا لا تتجاوز 4–16MB من ذاكرة Flash و1–4MB من ذاكرة RAM مشتركة عبر التطبيق بأكمله. تحدّ ميزانيات الطاقة على الأجهزة التي تعمل بالبطارية أو المقيَّدة حراريًا من تردد الاستدلال. تكميم النموذج والاستدلال المجدوَل (بدلًا من المستمر) حلول شائعة.
ما يلي عرض واقعي لخلفية Hyperion من حيث صلتها بالذكاء الاصطناعي الطرفي في الأنظمة الحرجة للسلامة. هذه حقائق مُتحقَّق منها، لا ادعاءات تسويقية.
الإفصاح عن النطاق: Hyperion شركة استشارية في بنية الذكاء الاصطناعي والطرف. نقدّم المشورة بشأن طبقة الذكاء الاصطناعي/الطرف — البنية، واختيار سلسلة الأدوات، وتصميم مراقب السلامة، وتعريف ODD، وهيكلة حزمة الأدلة. لسنا هيئة اعتماد، ولا جهة مُبلَّغة، ولا مُقيِّم سلامة معتمَدًا. لا نصدر اعتمادات ASIL أو SIL. يتطلب عمل الاعتماد الرسمي طرفًا ثالثًا معتمَدًا.
أمضى المؤسس Mohammed Cherifi أكثر من 17 عامًا في هندسة السيارات والأنظمة المضمَّنة، بما في ذلك العمل في Renault-Nissan-Mitsubishi Alliance وCisco وABB. تتضمن هذه الخلفية تعرّضًا مباشرًا لعمليات السلامة الوظيفية في تطوير برمجيات المركبات، وأنظمة التحكم المضمَّنة، والقيود التشغيلية للبيئات الحرجة للسلامة. تجلب Hyperion هذه الخبرة إلى طبقة الذكاء الاصطناعي/الطرف — لا كهيئة اعتماد، بل كفريق هندسي يفهم البيئة.
مشروع Hyperion الرائد، Auralink، هو منصة وكلاء منشورة على الطرف مبنية على أكثر من 400 خدمة مصغَّرة مع نحو 20 وكيل ذكاء اصطناعي. تُظهر بنية Auralink الأنماط الهندسية المطلوبة للاستدلال للذكاء الاصطناعي على عتاد طرفي محدود — مسارات استدلال منخفضة زمن الاستجابة، وحدود تحكم حتمية، والفصل بين طبقة الذكاء الاصطناعي الاستشارية وطبقة التحكم المرجِعة. هذا دليل قابل للنقل على الانضباط المعماري المطلوب للذكاء الاصطناعي الطرفي المجاور للسلامة، وليس اعتماد سلامة.
تغطي خدمة physical-ai-deployment من Hyperion بنية الذكاء الاصطناعي الطرفي، واختيار سلسلة أدوات الاستدلال المضمَّن، وطبقة التكامل بين الاستدلال للذكاء الاصطناعي وأنظمة التحكم في التقنية التشغيلية/المضمَّنة. دورنا هو طبقة بنية الذكاء الاصطناعي والطرف. نقدّم المشورة بشأن مكان اندراج مكوّنات ML ضمن بنية السلامة، وكيفية هيكلة مراقب السلامة ومسار الاحتياط، وأي سلاسل أدوات مناسبة للعتاد. لسنا هيئة اعتماد ولا نصدر اعتمادات ASIL/SIL — يتطلب هذا العمل جهة مُبلَّغة.
تتناول مسودة بحثية (preprint) منشورة على arXiv وكلاء ذكاء اصطناعي ذاتيين منشورين على الطرف للبنية التحتية المادية. هذا عمل ذو طابع أكاديمي — مسودة بحثية، لا منشور في دورية محكَّمة — لكنه يعكس العمق المعماري الذي تطبّقه Hyperion على عمليات نشر الذكاء الاصطناعي الطرفي في الأنظمة المادية.
يحمل Mohammed Cherifi اعتماد سفير الذكاء الاصطناعي من برنامج Osez l'IA التابع للحكومة الفرنسية، وحظي بتقدير من FranceNum. يعكس هذا انخراطًا في سياسة الذكاء الاصطناعي والتحديات التنظيمية لنشر الذكاء الاصطناعي في البيئات الصناعية والسيارات الخاضعة للتنظيم.
ليس كوظيفة سلامة وحيدة — لا بالمنهجية الحالية ولا بمواقف القبول لدى معظم هيئات الاعتماد. النهج القياسي هو نشر مكوّن ML عند مستوى ASIL/SIL أدنى (مثل ASIL B أو QM)، مع مراقب سلامة حتمي معتمَد عند المستوى الأعلى يعوّض الفرق عبر تفكيك ASIL. يمكن للنظام الكلي عندئذ أن يفي بـ ASIL D، لكن مكوّن ML نفسه لا يحمل ذلك التصنيف. يعكس هذا الموقف الإرشادات الحالية لـ ISO 26262-6:2018 وIEC TR 63069:2019 — وسيتطور مع تطوير هيئات التقييس إرشادات خاصة بـ ML (ISO/TR 4804 وISO 8800).
يعالج SOTIF (Safety of the Intended Function)، المنشور بوصفه ISO 21448:2022، المخاطر الناشئة لا عن أعطال النظام بل عن حدود الوظيفة المقصودة نفسها — فجوات الإدراك، والظروف البيئية غير المتوقعة، والسلوك عند حدود ODD. يغطّي ISO 26262 أعطال النظام بالنسبة لمواصفته. ويغطّي SOTIF أوجه القصور في المواصفة نفسها. بالنسبة لوظائف ADAS والوظائف الذاتية، ينطبق المعياران: تحتاج إلى إثبات أن النظام يفشل بأمان (ISO 26262) وأن سلوكه المقصود آمن عبر ODD بالكامل (SOTIF/ISO 21448).
مراقب السلامة مكوّن برمجي أو عتادي حتمي مُتحقَّق منه بشكل مستقل يعمل بالتوازي مع مكوّن ML. يفحص مخرج ML مقابل مجموعة من قيود السلامة الرسمية — الحدود الفيزيائية، وحدود معدّل التغيّر، والاتساق مع بيانات أجهزة الاستشعار — ويحجب أو يتجاوز أي مخرج ينتهك هذه القيود. يُعتمَد مراقب السلامة عند مستوى ASIL/SIL المطلوب بشكل مستقل عن نموذج ML. هذا الفصل هو النمط المعماري الرئيسي لنشر ML في الأنظمة الحرجة للسلامة: مكوّن ML استشاري، والمراقب هو المرجِع.
يحدّد ODD الظروف المحددة التي يكون فيها نظام ML صالحًا: المعاملات البيئية (الحرارة، والإضاءة، والطقس)، وخصائص بيانات المدخلات (نطاقات أجهزة الاستشعار، وصيغ البيانات، وجودة الإشارة)، وحالات تشغيل المركبة أو الآلة، والقيود الجغرافية أو الخاصة بالتطبيق. أي مُدخَل يقع خارج ODD ينبغي ألا يُعالَج بمكوّن ML — يجب أن ينتقل النظام إلى حالة احتياط. يُعد تعريف حد ODD والتحقق منه ومراقبته إحدى أهم المهام الهندسية في نشر ML حرج للسلامة.
يحدّد IEC 62443 نموذج مناطق وقنوات للأمن السيبراني الصناعي. يجب وضع خوادم الاستدلال للذكاء الاصطناعي، كأي أصل لتقنية المعلومات، في المنطقة الصحيحة (عادة المنطقة 3 — الإشراف)، ويجب أن تمر جميع الاتصالات مع المنطقة 2 (التحكم) عبر قناة ذات ضوابط أمنية محددة: المصادقة، والتشفير، والتحقق من سلامة الرسائل. إن نشر خادم استدلال للذكاء الاصطناعي يتصل مباشرة بوحدات PLC أو أجهزة الميدان دون ضوابط قناة ينتهك نموذج المناطق. يجب أن يفي خادم الذكاء الاصطناعي نفسه بمتطلبات مستوى الأمن (SL) لمنطقته، بما في ذلك إدارة التصحيحات، والمصادقة، وتسجيل التدقيق.
لا توجد قائمة واحدة بالتهيئات المقبولة — يعتمد ذلك على مستوى ASIL/SIL المستهدف، وهيئة الاعتماد، وحالة الاستخدام المحددة. بشكل عام: تُستخدم النماذج المُحسَّنة بـ TensorRT على منصات NVIDIA Drive/Jetson على نطاق واسع في برامج ADAS حتى ASIL B، مع مراقبات ضمان وقت التشغيل. يُستخدم ONNX Runtime على وحدات SoC من ARM في التطبيقات الصناعية عند SIL 1–2. وبالنسبة لمستويات التكامل الأعلى، قد يلزم تأهيل رسمي لزمن تشغيل الاستدلال نفسه (تأهيل الأداة وفق ISO 26262-8). تقدّم Hyperion المشورة بشأن اختيار سلسلة الأدوات واستراتيجية التأهيل — يتطلب عمل التأهيل الرسمي مشاركة مورّد سلسلة الأدوات.
لا. Hyperion شركة استشارية في بنية الذكاء الاصطناعي والطرف. نقدّم المشورة بشأن مكان اندراج مكوّنات ML ضمن بنى السلامة، وكيفية هيكلة مراقبات السلامة ومسارات الاحتياط، وأي سلاسل أدوات طرفية مناسبة للعتاد المحدود، وكيفية تصميم عمليات نشر متوافقة مع متطلبات السلامة الوظيفية وIEC 62443. أما تقييمات اعتماد ASIL/SIL الفعلية — عمل تقييم المطابقة الذي يُنتج شهادة — فيجب أن يؤديها مُقيِّم طرف ثالث معتمَد أو جهة مُبلَّغة. يمكن لـ Hyperion مساعدتك على الاستعداد لذلك التقييم وتصميم البنية لجعلها قابلة للتحقيق، لكننا لا نصدر اعتمادات.
تسأل السلامة الوظيفية (ISO 26262 وIEC 61508): هل يفشل النظام بأمان؟ وتركّز على أنماط فشل العتاد والبرمجيات، وتحمّل الأعطال، وسلامة وظائف السلامة عند فشل المكوّنات. ويسأل IEC 62443: هل النظام محمي من هجوم متعمَّد؟ ويركّز على ضوابط الأمن السيبراني — المصادقة، والتشفير، وتجزئة الشبكة، وإدارة الثغرات. كلاهما مطلوب لأنظمة الذكاء الاصطناعي الصناعية: قد يكون النظام آمنًا وظيفيًا (يفشل برفق) لكنه ضعيف سيبرانيًا (يمكن مهاجمته ودفعه إلى الفشل). وبالنسبة لأنظمة الذكاء الاصطناعي تحديدًا، تُعد الهجمات العدائية نقطة تداخل — فالمُدخَل العدائي المتعمَّد قد يتسبب في سلوك ML غير آمن لا يكشفه تقييم السلامة الوظيفية وحده.
ISO 26262:2018 (2018). "Road vehicles — Functional safety (Parts 1–12)."
السياق: المعيار الأساسي للسلامة الوظيفية للسيارات. يغطّي الجزء 6 متطلبات تطوير البرمجيات بما في ذلك مقاييس التغطية الهيكلية الخاصة بـ ASIL. يتضمن الجزء 10 إرشادات حول مكوّنات الذكاء الاصطناعي/ML (غير ملزمة وقت النشر، تتطور في الإصدارات اللاحقة).
ISO 21448:2022 (2022). "Road vehicles — Safety of the intended functionality (SOTIF)."
السياق: يعالج المخاطر الناشئة عن أوجه القصور الوظيفية في مواصفة الوظيفة المقصودة أو أدائها، بما في ذلك حدود أجهزة الاستشعار وسلوك حد ODD في أنظمة ADAS والقيادة الذاتية.
ISO/TR 4804:2020 (2020). "Road vehicles — Safety and cybersecurity for automated driving systems — Design, verification and validation."
السياق: تقرير فني يقدّم إرشادات حول الجمع بين تحليل السلامة الوظيفية والأمن السيبراني للقيادة الآلية. يغطّي SOTIF وISO 26262 والإحالات المرجعية إلى SAE J3061.
IEC 61508:2010 (2010). "Functional safety of electrical/electronic/programmable electronic safety-related systems (Parts 1–7)."
السياق: المعيار الدولي العام للسلامة الوظيفية لأنظمة E/E/PE. يحدّد SIL 1–4، واحتمال الفشل عند الطلب (PFD)، ومتطلبات تطوير البرمجيات والتحقق منها.
IEC 62443 Series (2018–2024). "Industrial automation and control systems — Security."
السياق: معيار متعدد الأجزاء يغطّي الأمن السيبراني للتقنية التشغيلية. يحدّد IEC 62443-3-3 مستويات الأمن (SL) ونموذج المناطق/القنوات. يغطّي IEC 62443-4-2 متطلبات أمن المكوّنات المنطبقة على خوادم الاستدلال للذكاء الاصطناعي في شبكات التقنية التشغيلية.
IEC TR 63069:2019 (2019). "Industrial-process measurement, control and automation — Framework for functional safety and security."
السياق: تقرير فني يعالج العلاقة بين السلامة الوظيفية (IEC 61508) والأمن السيبراني (IEC 62443). وثيق الصلة مباشرة بعمليات نشر الذكاء الاصطناعي التي تمتد عبر المجالين.
UL 4600:2020 (2020). "Standard for Safety for the Evaluation of Autonomous Products."
السياق: أول معيار شامل يعالج تحديدًا الأنظمة الذاتية المبنية على ML. يغطّي بناء ملف السلامة، وتعريف ODD، والمراقبة التشغيلية، وضمان وقت التشغيل لمكوّنات ML. يُشار إليه على نطاق واسع في برامج السيارات في أمريكا الشمالية.
ISO/IEC TR 24029-2:2023 (2023). "Artificial Intelligence — Assessment of the robustness of neural networks — Part 2: Methodology for use in formal methods."
السياق: يقدّم إرشادات حول منهجيات اختبار المتانة للشبكات العصبية، بما في ذلك المتانة العدائية — وثيق الصلة بكل من السلامة الوظيفية وتحليل الأمن السيبراني وفق IEC 62443.
تتطلب عمليات نشر ML الحرجة للسلامة أكثر من أداء نموذج جيد — فهي تتطلب بنية قابلة للدفاع، وسلسلة الأدوات الصحيحة لقيود العتاد، وملف سلامة موثَّقًا يمكن لهيئة اعتماد قبوله. تجلب Hyperion أكثر من 17 عامًا من الخبرة في هندسة السيارات والأنظمة المضمَّنة إلى طبقة الذكاء الاصطناعي/الطرف. نقدّم المشورة بشأن البنية واستراتيجية الأدلة؛ ويبقى الاعتماد الرسمي لدى الجهة المعتمَدة المختصة. ابدأ بمراجعة بنية مركَّزة.
المؤسس ورئيس استراتيجية الذكاء الاصطناعي
Mohammed Cherifi هو مؤسس Hyperion Consulting، بخبرة تزيد على 17 عامًا في هندسة السيارات والأنظمة المضمَّنة. عمل في Renault-Nissan-Mitsubishi Alliance وCisco وABB — بيئات تحكم فيها عمليات السلامة الوظيفية تطوير البرمجيات. يتخصص في بنية الذكاء الاصطناعي الطرفي للأنظمة المادية، بما في ذلك عمليات النشر المجاورة للسلامة في بيئات السيارات والتقنية التشغيلية الصناعية.
بنية الذكاء الاصطناعي الطرفي والاستدلال المضمَّن للأنظمة المادية
من المحاكاة إلى النشر الإنتاجي في روبوتات التصنيع
نشر ذكاء اصطناعي سيادي معزول عن الشبكة للبيئات الصناعية
حزمة Physical AI Stack المؤلَّفة من 6 طبقات للروبوتات والذكاء الاصطناعي الطرفي والأتمتة الصناعية