Security capability experiment
تحليل ثابت للشيفرة المولَّدة بالذكاء الاصطناعي
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
جسر الأعمال ↔ التقنية · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
هذا تفسير للمحفظة والمصدر، وليس ادعاءً بشأن عميل أو نشر أو اعتماد أو نتيجة.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
أدلة الشفرة المصدرية
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
تُحفظ اللقطة التقنية التفصيلية باللغة الإنجليزية.
أدلة المستودع ليست دليلاً على عملاء أو نشر أو اعتماد أو نتائج.
العمارة
ثلاث طبقات: تكامل مع CLI و CI، وماسح AST من 210 قاعدة لأنماط مختارة في الشيفرة المولَّدة بالذكاء الاصطناعي وفي تطبيقات الذكاء الاصطناعي، وفرز اختياري بمساعدة نموذج قد يساعد في ترتيب النتائج. ولا يغني أيٌّ منها عن المراجعة الأمنية.
خريطة مصدر فقط: قد تمثل الطبقة كودًا منفذًا أو حدًا لمحوّل أو تصميمًا موثقًا. ولا تثبت خدمة إنتاج مهيأة.
واجهات سطر الأوامر بلغة Rust و LSP و CI و SARIF تدعم الفحوص المحلية والفحوص ضمن سير المراجعة. لا يُدّعى وجود بيئة تشغيل عامة ولا أداء على نطاق واسع.
ماسحات AST للغات Python، TypeScript، JavaScript، Go. خمس فئات للقواعد: أنماط الكود الارتجالية، أمان الوكلاء (تعريفات الأدوات، توسع القدرات)، مخاطر تطبيقات الذكاء الاصطناعي (حقن الأوامر، المخرجات غير المعقمة)، ثغرات الإطارات، سوء تهيئة السحابة. الماسحات العامة وهذه القواعد تغطي مساحات مختلفة.
الفرز الاختياري بنموذج Mistral، محليًا أو مستضافًا، قد يساعد في استبعاد الإيجابيات الكاذبة المحتملة وفي إعادة ترتيب النتائج بحسب السياق. لا يعمل إلا عند تفعيله، ولا يغني عن المراجعة الأمنية.
المشكلة
لماذا تُشكّل الشيفرة المولَّدة بالذكاء الاصطناعي خطرًا أمنيًا
تولّد مساعدات الذكاء الاصطناعي الشيفرة أسرع مما يستطيع البشر مراجعته. أصبح قبول اقتراحات الذكاء الاصطناعي بأدنى تدقيق — ما يُعرف بالبرمجة التوليدية — هو الواقع الجديد.
يُحسّن الذكاء الاصطناعي الشيفرة لتعمل، لا لتكون آمنة. نفس المفتاح السري المكتوب مباشرةً، ونفس دمج استعلامات SQL، ونفس إعدادات CORS المتساهلة — تتكرر عبر آلاف المشاريع.
الماسحات العامة والقواعد المخصصة للذكاء الاصطناعي تغطي مساحات مختلفة. قوالب الأوامر النصية وأدوات الوكلاء ومعالجة مخرجات النماذج تستفيد من فحوص مخصصة إلى جانب أدوات SAST الموجودة.
يمكن منح الوكلاء صلاحيات على الملفات أو قواعد البيانات أو الشبكة أو الطرفية. حدود صلاحياتهم ومدخلات أدواتهم تحتاج إلى مراجعة تتجاوز الفحوص المعتادة لشيفرة التطبيقات.
القواعد
210 قاعدة تستهدف خمسة مجالات ثغرات خاصة بالذكاء الاصطناعي
نطاق المصدر فقط: قد يصف العنصر كودًا منفذًا أو محوّلًا موثقًا أو سير عمل مهيأ. ولا يعني أن خدمة إنتاج نشطة.
01
40 قاعدة لأنماط شائعة تولّدها مساعدات البرمجة بالذكاء الاصطناعي: مفاتيح سرية مكتوبة مباشرةً في الأوامر النصية، وحقن SQL عبر دمج النصوص، وتنفيذ شيفرة خطير، وإعدادات افتراضية غير آمنة، ومصادقة مفقودة، واجتياز المسارات، وإلغاء تسلسل غير آمن، وتشفير ضعيف.
02
30 قاعدة لشيفرة الوكلاء المستقلين: تعريفات أدوات بصلاحيات مفرطة، ووصول غير مقيّد لنظام الملفات، وتنفيذ أوامر طرفية من مدخلات المستخدم، وغياب سجل التدقيق، وعدم طلب تأكيد قبل الإجراءات المدمّرة، واتصالات غير آمنة بين الوكلاء، ومتجهات تصعيد الصلاحيات.
03
40 قاعدة لتطبيقات LLM في الإنتاج: مدخلات مستخدم خام في أوامر النظام النصية، وعرض HTML غير معقّم، وتنفيذ استعلامات SQL مولَّدة بالنموذج، ومفاتيح API المكشوفة، وغياب اكتشاف حقن الأوامر النصية، وتدفقات OAuth غير آمنة، واستخدام SDK مُهمَل، ومخرجات أدوات غير مُتحقَّق منها، ومخاطر تسريب بيانات التدريب.
04
50 قاعدة تشمل 10 أطر برمجية: Express.js وDjango وFlask وFastAPI وSpring Boot وLaravel وRails وNext.js وNestJS وGin — تغطي كشف وضع التصحيح وغياب حراسات المصادقة وأحرف البدل في CORS والتعيين الجماعي والـDTOs غير المتحقق منها وتسريبات نقاط نهاية actuator.
05
50 قاعدة تشمل 7 منصات: AWS (15) وTerraform (10) وKubernetes (6) وGitHub Actions (5) وGCP (5) وAzure (5) وDocker (4) — تغطي الإفراط في منح صلاحيات IAM والحاويات العامة وتعطيل التشفير والحاويات ذات الامتيازات والإجراءات غير المثبتة ومجموعات الأمان المُهيَّأة بشكل خاطئ.
06
اكتب قواعد مخصصة بصيغة YAML — دون الحاجة لمعرفة Rust. حدّد أنواع عُقد شجرة البنية المجردة وأنماط التعبيرات النمطية وقيود سياق الأسلاف واقتراحات الإصلاح. أنشئ قواعد جديدة بأمر واحد.
07
مخرجات SARIF v2.1.0 أصلية للتكامل مع تبويب الأمان في GitHub. تظهر النتائج كتعليقات توضيحية مباشرة في طلبات الدمج مع درجة الخطورة واقتراحات الإصلاح والمراجع. يدعم أيضًا مخرجات JSON والنص العادي.
08
الفرز الاختياري باستخدام Mistral AI أو نماذج Ollama المحلية قد يساعد في استبعاد الإيجابيات الكاذبة المحتملة، وإعادة ترتيب النتائج بحسب السياق، واقتراح إصلاحات. يُفعَّل بالعلامة --ai ولا يغني عن المراجعة الأمنية.
09
توفّر واجهة LSP تشخيصات وإجراءات شيفرة محددة للمحررات المتوافقة. يجب التحقق من السلوك داخل المحرر ومن تغطية القواعد في سير العمل المستهدف.
10
يتضمن المستودع إجراء GitHub ومسار تكامل عبر سطر الأوامر لـ CI. تكاملات خطوط الدمج الأخرى تتطلب إعدادًا وتحققًا من جانب المشغّل.
210 قاعدة عبر 5 فئات
القواعد الحتمية تحدد أنماطًا مختارة في تطبيقات الذكاء الاصطناعي، والفرز الاختياري بمساعدة نموذج قد يساعد في ترتيب النتائج، لكن أيًّا من المسارين لا يغني عن المراجعة الأمنية.
سطح المستودع فقط: يتطلب التوفر والاكتمال والأداء والملاءمة التشغيلية تحققًا منفصلًا.
مفاتيح واجهة برمجة التطبيقات المُشفرة في قوالب المطالبات، SQL عبر تسلسل السلاسل في مسارات الأكواد 'للعرض فقط'، إلغاء التسلسل غير الآمن، تنفيذ مخرجات LLM، الأسرار المسجلة في مستوى INFO. مجموعة الأنماط التي تُشحن عندما يتغلب 'العمل مرة واحدة' على 'العمل بأمان'.
تعريفات الأدوات بدون التحقق من صحة المعلمات، قدرات الوكلاء التي تتداخل مع امتيازات المسؤول، حدود معدل مفقودة على الأدوات القابلة للاستدعاء بواسطة LLM، بادئات المطالبات التي تسرب هوية النظام. المجموعة التي تسمح بتحويل كسر الحماية إلى حادثة.
مخرجات LLM غير المعقمة المعروضة كـHTML، نواقل حقن المطالبة في السياق الذي يتحكم فيه المستخدم، الحقن غير المباشر عبر المستندات المسترجعة، إخراج النموذج الذي يتم توجيهه إلى shell أو eval، التحقق من صحة مخطط الإخراج مفقود. قائمة OWASP-LLM-Top-10 بشكل ملموس.
كشف إجراءات Next.js Server بدون مصادقة، تجاوز حقن التبعية في FastAPI، تسرب سلسلة الأفكار في LangChain، حقن SQL عبر raw() في Django ORM، عرض القوالب غير الآمن. قواعد خاصة بالإطار، وليس تتبع التلوث العام.
S3 العامة مع بادئات حساسة، أدوار IAM مع إجراءات `*`، أذونات AWS Bedrock عبر الحسابات، GCP Vertex AI مكشوفة في سياق بدون حساب خدمة. المجموعة التي تسمح بتحويل عنوان URL المسرب إلى استخراج كامل للبيانات.
البنية التقنية
تحدد التقنيات المسماة تبعيات المستودع أو أسطح المحوّلات؛ ولا تثبت تكاملًا نشطًا أو نشرًا.
الشيفرة المصدرية
الشيفرة المصدرية لـ Achilles AI متاحة عند الطلب لأغراض التقييم والشراكة.
للوصول إلى الشيفرة المصدرية، يرجى توقيع اتفاقية عدم الإفصاح الخاصة بنا.
هل تحتاج مساعدة في تأمين الكود المولّد بالذكاء الاصطناعي في الإنتاج؟ خدماتنا الاستشارية تكمل Achilles AI.
اثنا عشر إلى أربعة وعشرون أسبوعاً لتصنيف أنظمة الذكاء الاصطناعي لديك حسب المخاطر ودعم تقييم المطابقة الذي يقوده المزود وهندسة الأدلة وإنتاج التوثيق الفني للملحق IV وإنشاء مراقبة ما بعد التسويق — مع عمق خاص على فئات المخاطر العالية التي تنطبق على النشر الذاتي والصناعي والروبوتي
الشراكة
سواء كنت بحاجة إلى تدقيق أمني للشيفرة المولَّدة بالذكاء الاصطناعي لفريقك أو ترغب في استكشاف شراكة في مجال أمان التطبيقات.
من العرض التوضيحي إلى التشغيل الموثوق. اشترك لتصلك قراءات جديدة عن Physical AI.
يمكنك إلغاء الاشتراك في أي وقت. لا بريد مزعج، أبداً.