Security capability experiment
تحليل ثابت للشيفرة المولَّدة بالذكاء الاصطناعي
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
جسر الأعمال ↔ التقنية · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
هذا تفسير للمحفظة والمصدر، وليس ادعاءً بشأن عميل أو نشر أو اعتماد أو نتيجة.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
أدلة الشفرة المصدرية
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
تُحفظ اللقطة التقنية التفصيلية باللغة الإنجليزية.
أدلة المستودع ليست دليلاً على عملاء أو نشر أو اعتماد أو نتائج.
العمارة
ثلاث طبقات: تكامل CLI/CI جاهز للاستخدام، ماسح AST مكون من 210 قاعدة مضبوط لأنماط الذكاء الاصطناعي المولدة، ورتب مصنف بواسطة الذكاء الاصطناعي يحدد خطورة النتائج يضع المخاطر الحقيقية في المقدمة.
خريطة مصدر فقط: قد تمثل الطبقة كودًا منفذًا أو حدًا لمحوّل أو تصميمًا موثقًا. ولا تثبت خدمة إنتاج مهيأة.
ملف Go ثنائي واحد، بدون وقت تشغيل. واجهة سطر الأوامر للمسح المحلي، تكامل GitHub/GitLab CI، إخراج SARIF لواجهات مسح الأكواد. يعمل في ثوانٍ على التزام Cursor؛ يعمل في دقائق على قاعدة أكواد Auralink بحجم مليون سطر.
ماسحات AST للغات Python، TypeScript، JavaScript، Go. خمس فئات للقواعد: أنماط الكود الارتجالية، أمان الوكلاء (تعريفات الأدوات، توسع القدرات)، مخاطر تطبيقات الذكاء الاصطناعي (حقن الأوامر، المخرجات غير المعقمة)، ثغرات الإطارات، سوء تهيئة السحابة. الأنماط التي لا تمتلكها أدوات SAST.
التقييم بواسطة الذكاء الاصطناعي (Mistral محلي أو مستضاف) يعيد ترتيب النتائج حسب إمكانية الاستغلال مقابل بنيتك. لا مزيد من التقارير المكونة من 500 نتيجة لا يقرأها أحد — العشر الأوائل هم بالفعل العشر الأوائل، مع شرح قصير يمكن للمطور التصرف بناءً عليه.
المشكلة
لماذا تُشكّل الشيفرة المولَّدة بالذكاء الاصطناعي خطرًا أمنيًا
تولّد مساعدات الذكاء الاصطناعي الشيفرة أسرع مما يستطيع البشر مراجعته. أصبح قبول اقتراحات الذكاء الاصطناعي بأدنى تدقيق — ما يُعرف بالبرمجة التوليدية — هو الواقع الجديد.
يُحسّن الذكاء الاصطناعي الشيفرة لتعمل، لا لتكون آمنة. نفس المفتاح السري المكتوب مباشرةً، ونفس دمج استعلامات SQL، ونفس إعدادات CORS المتساهلة — تتكرر عبر آلاف المشاريع.
لا تفهم أدوات مثل Semgrep وSnyk وCodeQL قوالب الأوامر النصية أو تعريفات أدوات الوكلاء أو معالجة مخرجات النماذج اللغوية الكبيرة. أسطح الهجوم الجديدة بلا تغطية على الإطلاق.
تتخذ الوكلاء المستقلون قرارات فعلية بصلاحيات الوصول إلى نظام الملفات والكتابة في قواعد البيانات وتنفيذ أوامر الطرفية. لا توجد أداة حالية تُدقّق حدود صلاحياتها.
القواعد
210 قاعدة تستهدف خمسة مجالات ثغرات خاصة بالذكاء الاصطناعي
نطاق المصدر فقط: قد يصف العنصر كودًا أو محوّلًا موثقًا أو سير عمل مهيأ. ولا يعني أن خدمة إنتاج نشطة.
01
40 قاعدة لأنماط شائعة تولّدها مساعدات البرمجة بالذكاء الاصطناعي: مفاتيح سرية مكتوبة مباشرةً في الأوامر النصية، وحقن SQL عبر دمج النصوص، وتنفيذ شيفرة خطير، وإعدادات افتراضية غير آمنة، ومصادقة مفقودة، واجتياز المسارات، وإلغاء تسلسل غير آمن، وتشفير ضعيف.
02
30 قاعدة لشيفرة الوكلاء المستقلين: تعريفات أدوات بصلاحيات مفرطة، ووصول غير مقيّد لنظام الملفات، وتنفيذ أوامر طرفية من مدخلات المستخدم، وغياب سجل التدقيق، وعدم طلب تأكيد قبل الإجراءات المدمّرة، واتصالات غير آمنة بين الوكلاء، ومتجهات تصعيد الصلاحيات.
03
40 قاعدة لتطبيقات LLM في الإنتاج: مدخلات مستخدم خام في أوامر النظام النصية، وعرض HTML غير معقّم، وتنفيذ استعلامات SQL مولَّدة بالنموذج، ومفاتيح API المكشوفة، وغياب اكتشاف حقن الأوامر النصية، وتدفقات OAuth غير آمنة، واستخدام SDK مُهمَل، ومخرجات أدوات غير مُتحقَّق منها، ومخاطر تسريب بيانات التدريب.
04
50 قاعدة تشمل 10 أطر برمجية: Express.js وDjango وFlask وFastAPI وSpring Boot وLaravel وRails وNext.js وNestJS وGin — تغطي كشف وضع التصحيح وغياب حراسات المصادقة وأحرف البدل في CORS والتعيين الجماعي والـDTOs غير المتحقق منها وتسريبات نقاط نهاية actuator.
05
50 قاعدة تشمل 7 منصات: AWS (15) وTerraform (10) وKubernetes (6) وGitHub Actions (5) وGCP (5) وAzure (5) وDocker (4) — تغطي الإفراط في منح صلاحيات IAM والحاويات العامة وتعطيل التشفير والحاويات ذات الامتيازات والإجراءات غير المثبتة ومجموعات الأمان المُهيَّأة بشكل خاطئ.
06
اكتب قواعد مخصصة بصيغة YAML — دون الحاجة لمعرفة Rust. حدّد أنواع عُقد شجرة البنية المجردة وأنماط التعبيرات النمطية وقيود سياق الأسلاف واقتراحات الإصلاح. أنشئ قواعد جديدة بأمر واحد.
07
مخرجات SARIF v2.1.0 أصلية للتكامل مع تبويب الأمان في GitHub. تظهر النتائج كتعليقات توضيحية مباشرة في طلبات الدمج مع درجة الخطورة واقتراحات الإصلاح والمراجع. يدعم أيضًا مخرجات JSON والنص العادي.
08
دمج Mistral AI أو نماذج Ollama المحلية لتقليل الإيجابيات الكاذبة وإعادة ترتيب الخطورة بناءً على السياق وتوليد اقتراحات إصلاح سياقية. فعّله بعلامة --ai واحدة — يعمل مع أي نموذج مدعوم.
09
ملاحظات أمنية فورية في محررك عبر خادم Achilles AI LSP. تشخيصات مضمّنة وإجراءات تصحيحية واقتراحات إصلاح أثناء الكتابة — يعمل مع VS Code وNeovim وأي محرر متوافق مع LSP.
10
إجراء GitHub جاهز للاستخدام لفحص تلقائي عند كل دفع وطلب دمج. يدعم أيضًا GitLab CI وBitbucket Pipelines وخطافات ما قبل الإيداع. ملف تنفيذي واحد — بدون تبعيات تشغيلية.
210 قاعدة عبر 5 فئات
مساعدو الذكاء الاصطناعي يُحسنون من أجل 'العمل'، وليس 'الأمان'. يُسمي أخيلس كل نمط سلبي مُولد بالذكاء الاصطناعي رأيناه على نطاق واسع عبر أكثر من مليون سطر من الأكواد المعززة بالذكاء الاصطناعي، ثم يُشحن مُصنفًا للـLLM يضع المخاطر الحقيقية في أعلى التقرير.
سطح المستودع فقط: يتطلب التوفر والاكتمال والأداء والملاءمة التشغيلية تحققًا منفصلًا.
47 RULESمفاتيح واجهة برمجة التطبيقات المُشفرة في قوالب المطالبات، SQL عبر تسلسل السلاسل في مسارات الأكواد 'للعرض فقط'، إلغاء التسلسل غير الآمن، تنفيذ مخرجات LLM، الأسرار المسجلة في مستوى INFO. مجموعة الأنماط التي تُشحن عندما يتغلب 'العمل مرة واحدة' على 'العمل بأمان'.
38 RULESتعريفات الأدوات بدون التحقق من صحة المعلمات، قدرات الوكلاء التي تتداخل مع امتيازات المسؤول، حدود معدل مفقودة على الأدوات القابلة للاستدعاء بواسطة LLM، بادئات المطالبات التي تسرب هوية النظام. المجموعة التي تسمح بتحويل كسر الحماية إلى حادثة.
52 RULESمخرجات LLM غير المعقمة المعروضة كـHTML، نواقل حقن المطالبة في السياق الذي يتحكم فيه المستخدم، الحقن غير المباشر عبر المستندات المسترجعة، إخراج النموذج الذي يتم توجيهه إلى shell أو eval، التحقق من صحة مخطط الإخراج مفقود. قائمة OWASP-LLM-Top-10 بشكل ملموس.
43 RULESكشف إجراءات Next.js Server بدون مصادقة، تجاوز حقن التبعية في FastAPI، تسرب سلسلة الأفكار في LangChain، حقن SQL عبر raw() في Django ORM، عرض القوالب غير الآمن. قواعد خاصة بالإطار، وليس تتبع التلوث العام.
30 RULESS3 العامة مع بادئات حساسة، أدوار IAM مع إجراءات `*`، أذونات AWS Bedrock عبر الحسابات، GCP Vertex AI مكشوفة في سياق بدون حساب خدمة. المجموعة التي تسمح بتحويل عنوان URL المسرب إلى استخراج كامل للبيانات.
البنية التقنية
تحدد التقنيات المسماة تبعيات المستودع أو أسطح المحوّلات؛ ولا تثبت تكاملًا نشطًا أو نشرًا.
الشيفرة المصدرية
الشيفرة المصدرية لـ Achilles AI متاحة عند الطلب لأغراض التقييم والشراكة.
للوصول إلى الشيفرة المصدرية، يرجى توقيع اتفاقية عدم الإفصاح الخاصة بنا.
هل تحتاج مساعدة في تأمين الكود المولّد بالذكاء الاصطناعي في الإنتاج؟ خدماتنا الاستشارية تكمل Achilles AI.
اثنا عشر إلى أربعة وعشرون أسبوعاً لتصنيف أنظمة الذكاء الاصطناعي لديك حسب المخاطر ودعم تقييم المطابقة الذي يقوده المزود وهندسة الأدلة وإنتاج التوثيق الفني للملحق IV وإنشاء مراقبة ما بعد التسويق — مع عمق خاص على فئات المخاطر العالية التي تنطبق على النشر الذاتي والصناعي والروبوتي
الشراكة
سواء كنت بحاجة إلى تدقيق أمني للشيفرة المولَّدة بالذكاء الاصطناعي لفريقك أو ترغب في استكشاف شراكة في مجال أمان التطبيقات.
من العرض التوضيحي إلى التشغيل الموثوق. احصل أسبوعياً على مذكرة قرار لمنتجات Physical AI.
يمكنك إلغاء الاشتراك في أي وقت. لا بريد مزعج، أبداً.