قدرة · تُطبَّق داخل تكليف
أمان وسلامة الذكاء الاصطناعي الفيزيائي
الحدّ المستقل لذكاء اصطناعي يتصرّف في العالم — قيِّد ما يمكن للنموذج فعله، وراقب ما يفعله، وأخفِق بأمان.
لا تقدّم Hyperion نفسها كفريق هندسي عام. تُستخدم الكفاءة التقنية لاتخاذ قرارات منتج أفضل، ومساءلة الافتراضات، وتحديد الأدلة، وتنسيق المتخصصين الضروريين للتكليف.
التقييد
المراقبة
الإخفاق الآمن
التدقيق
خط بأربع مراحل: تقييد ما يُسمح للنموذج بفعله، ثم مراقبة ما يفعله، ثم الإخفاق الآمن عند الشذوذ، ثم تدقيق كل قرار.
حين يتحكّم الذكاء الاصطناعي في المشغّلات، يصبح خطأ النموذج خطرًا فيزيائيًا — ولا يمكن للنموذج أن يكون دليل سلامته بنفسه. والقرارات هي: ما الذي يُسمح للنظام بفعله، وما الذي يجب رصده أثناء ذلك، وماذا يحدث عند الإخفاق. تتولى Hyperion هذه القرارات والأدلة التي تسندها، وتنسّق عمل المختصين الذين يبنون الحدّ والمراقب والإخفاق الآمن.
مراقب سلامة حتمي مستقل عن النموذج؛ ونطاق تشغيل من الحالات والأفعال المسموح بها؛ ومحيط أمان (مصادقة، وسلامة النموذج وسلسلة التوريد)؛ وسلوك إخفاق آمن وإيقاف طارئ؛ وسجل تدقيق، حتى يكون كل قرار قابلًا للملاحظة لاحقًا.
مراقب وقت تشغيل مستقل ومدقّق قيود؛ ونطاق تشغيل وحدود معدّل؛ ومسارات إيقاف طارئ؛ والتحقق من سلامة النموذج وسلسلة التوريد؛ ونمذجة التهديدات للأنظمة التي يكون الذكاء الاصطناعي فيها ضمن الحلقة؛ وتسجيل منظَّم وتدقيق؛ والمواءمة مع معايير السلامة الوظيفية وحوكمة الذكاء الاصطناعي.
حدود مصمَّمة من الأساس مقابل سلامة مُضافة
السلامة المُضافة بعد النموذج لا تستطيع تقييده. يجب أن تكون الحدود مستقلة.
| البُعد | حدود مصمَّمة من الأساس | سلامة مُضافة |
|---|---|---|
| الموضع | مراقب مستقل خارج النطاق | بعد النموذج |
| الصلاحية | إيقاف طارئ صارم / تجاوز | استشارية فقط |
| العلاقة بالنموذج | تقيّد النموذج | تثق بالنموذج |
| التغطية | كل طبقة | لكل ميزة |
| الضمان | سجل تدقيق؛ جاهزية EU AI Act | لا يوجد |