الذكاء الاصطناعي الفيزيائي المتكامل
الحدّ المستقل لذكاء اصطناعي يتصرّف في العالم — قيِّد ما يمكن للنموذج فعله، وراقب ما يفعله، وأخفِق بأمان.
التقييد
المراقبة
الإخفاق الآمن
التدقيق
خط بأربع مراحل: تقييد ما يُسمح للنموذج بفعله، ثم مراقبة ما يفعله، ثم الإخفاق الآمن عند الشذوذ، ثم تدقيق كل قرار.
حين يتحكّم الذكاء الاصطناعي في المشغّلات، يصبح خطأ النموذج خطرًا فيزيائيًا — ولا يمكن للنموذج أن يكون دليل سلامته بنفسه. نبني الحدّ المستقل الذي يقيّد ما يُسمح للنموذج بفعله، والمراقب الذي يرصد ما يفعله بالفعل، والإخفاق الآمن الذي يتولّى الأمر عند حدوث خلل — إضافةً إلى محيط الأمان الذي يحمي النظام نفسه.
مراقب سلامة حتمي مستقل عن النموذج؛ ونطاق تشغيل من الحالات والأفعال المسموح بها؛ ومحيط أمان (مصادقة، وسلامة النموذج وسلسلة التوريد)؛ وسلوك إخفاق آمن وإيقاف طارئ؛ وسجل تدقيق، حتى يكون كل قرار قابلًا للملاحظة لاحقًا.
مراقب وقت تشغيل مستقل ومدقّق قيود؛ ونطاق تشغيل وحدود معدّل؛ ومسارات إيقاف طارئ؛ والتحقق من سلامة النموذج وسلسلة التوريد؛ ونمذجة التهديدات للأنظمة التي يكون الذكاء الاصطناعي فيها ضمن الحلقة؛ وتسجيل منظَّم وتدقيق؛ والمواءمة مع معايير السلامة الوظيفية وحوكمة الذكاء الاصطناعي.
السلامة المُضافة بعد النموذج لا تستطيع تقييده. يجب أن تكون الحدود مستقلة.
| البُعد | حدود مصمَّمة من الأساس | سلامة مُضافة |
|---|---|---|
| الموضع | مراقب مستقل خارج النطاق | بعد النموذج |
| الصلاحية | إيقاف طارئ صارم / تجاوز | استشارية فقط |
| العلاقة بالنموذج | تقيّد النموذج | تثق بالنموذج |
| التغطية | كل طبقة | لكل ميزة |
| الضمان | سجل تدقيق؛ جاهزية EU AI Act | لا يوجد |