Security capability experiment
Στατική Ανάλυση για Κώδικα που Δημιουργείται από AI
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Γέφυρα επιχείρησης ↔ τεχνολογίας · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
Πρόκειται για ερμηνεία χαρτοφυλακίου και πηγής, όχι για ισχυρισμό πελάτη, ανάπτυξης, πιστοποίησης ή αποτελέσματος.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
Τεκμήρια πηγαίου κώδικα
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Το λεπτομερές τεχνικό στιγμιότυπο διατηρείται στα αγγλικά.
Τα τεκμήρια αποθετηρίου δεν αποτελούν τεκμήρια πελατών, ανάπτυξης, πιστοποίησης ή αποτελεσμάτων.
Αρχιτεκτονική
Τρία επίπεδα: ενσωμάτωση CLI και CI, ένας σαρωτής AST με 210 κανόνες για επιλεγμένα μοτίβα σε κώδικα που παράγεται από AI και σε εφαρμογές AI, και προαιρετική διαλογή με υποστήριξη μοντέλου που μπορεί να βοηθήσει στην κατάταξη των ευρημάτων. Κανένα από τα τρία δεν αντικαθιστά τον έλεγχο ασφαλείας.
Μόνο χάρτης πηγής: ένα επίπεδο μπορεί να αναπαριστά υλοποιημένο κώδικα, όριο προσαρμογέα ή τεκμηριωμένο σχεδιασμό. Δεν δηλώνει διαμορφωμένη υπηρεσία παραγωγής.
Οι διεπαφές γραμμής εντολών σε Rust, LSP, CI και SARIF υποστηρίζουν τοπικές σαρώσεις και σαρώσεις στη ροή ελέγχου κώδικα. Δεν διατυπώνεται κανένας γενικός ισχυρισμός για επιδόσεις εκτέλεσης ή κλίμακας.
Σαρωτές AST για Python, TypeScript, JavaScript, Go. Πέντε κατηγορίες κανόνων: μοτίβα vibe-code, ασφάλεια agent (ορισμοί εργαλείων, ανεξέλεγκτη επέκταση δυνατοτήτων), κίνδυνοι εφαρμογών LLM (ένεση προτροπών, μη εξυγιασμένη έξοδος), ευπάθειες frameworks, λανθασμένες ρυθμίσεις cloud. Οι σαρωτές γενικής χρήσης και αυτοί οι κανόνες καλύπτουν διαφορετικές επιφάνειες.
Η προαιρετική διαλογή με μοντέλο Mistral, τοπικό ή φιλοξενούμενο, μπορεί να βοηθήσει στο φιλτράρισμα πιθανών ψευδώς θετικών και στην ανακατάταξη των ευρημάτων βάσει πλαισίου. Εκτελείται μόνο όταν ενεργοποιηθεί και δεν αντικαθιστά τον έλεγχο ασφαλείας.
Το Πρόβλημα
Γιατί ο κώδικας που παράγεται από AI αποτελεί κίνδυνο ασφαλείας
Οι βοηθοί AI παράγουν κώδικα ταχύτερα από ό,τι μπορούν να τον αξιολογήσουν οι άνθρωποι. Το vibe coding — η αποδοχή προτάσεων AI με ελάχιστο έλεγχο — είναι ο νέος κανόνας.
Η AI βελτιστοποιεί για λειτουργικό κώδικα, όχι για ασφαλή κώδικα. Το ίδιο hardcoded μυστικό, η ίδια συνένωση SQL, η ίδια επιτρεπτική CORS — επαναλαμβάνονται σε χιλιάδες έργα.
Οι σαρωτές γενικής χρήσης και οι κανόνες που εστιάζουν στην AI καλύπτουν διαφορετικές επιφάνειες. Τα πρότυπα prompts, τα εργαλεία των agents και ο χειρισμός της εξόδου του μοντέλου ωφελούνται από ειδικούς ελέγχους δίπλα στο υπάρχον SAST.
Στους agents μπορούν να δοθούν δυνατότητες πάνω σε αρχεία, βάσεις δεδομένων, δίκτυο ή shell. Τα όρια των δικαιωμάτων τους και οι είσοδοι των εργαλείων τους χρειάζονται έλεγχο πέρα από τους συνήθεις ελέγχους κώδικα εφαρμογών.
Κανόνες
210 κανόνες που στοχεύουν πέντε τομείς ευπαθειών ειδικούς για AI
Μόνο πεδίο πηγής: μια εγγραφή μπορεί να περιγράφει υλοποιημένο κώδικα, τεκμηριωμένο προσαρμογέα ή διαμορφωμένη ροή. Δεν δηλώνει ενεργή υπηρεσία παραγωγής.
01
40 κανόνες για μοτίβα που παράγονται συχνά από βοηθούς κωδικοποίησης AI: hardcoded μυστικά σε prompts, SQL injection μέσω συνένωσης, επικίνδυνη εκτέλεση κώδικα, ανασφαλείς προεπιλογές, απουσία αυθεντικοποίησης, path traversal, ανασφαλής αποσειριοποίηση και αδύναμη κρυπτογραφία.
02
30 κανόνες για κώδικα αυτόνομων agents: υπερβολικά επιτρεπτικοί ορισμοί εργαλείων, απεριόριστη πρόσβαση στο σύστημα αρχείων, εκτέλεση εντολών shell από είσοδο χρήστη, απουσία καταγραφής ελέγχου, καμία επιβεβαίωση πριν από καταστροφικές ενέργειες, ανασφαλής επικοινωνία μεταξύ agents και φορείς κλιμάκωσης προνομίων.
03
40 κανόνες για εφαρμογές LLM σε παραγωγή: ακατέργαστη είσοδος χρήστη σε system prompts, μη απολυμασμένη απόδοση HTML, εκτέλεση SQL που δημιουργήθηκε από LLM, εκτεθειμένα κλειδιά API, απουσία ανίχνευσης prompt injection, ανασφαλείς ροές OAuth, χρήση αποσυρμένων SDK, μη επικυρωμένες έξοδοι εργαλείων και κινδύνους διαρροής δεδομένων εκπαίδευσης.
04
50 κανόνες για 10 frameworks: Express.js, Django, Flask, FastAPI, Spring Boot, Laravel, Rails, Next.js, NestJS και Gin — καλύπτοντας έκθεση λειτουργίας debug, απουσία auth guards, CORS wildcards, mass assignment, μη επικυρωμένα DTOs και διαρροές actuator endpoints.
05
50 κανόνες για 7 πλατφόρμες: AWS (15), Terraform (10), Kubernetes (6), GitHub Actions (5), GCP (5), Azure (5), Docker (4) — καλύπτοντας υπερβολικές άδειες IAM, δημόσια buckets, απενεργοποιημένη κρυπτογράφηση, προνομιακά containers, μη καρφιτσωμένα Actions και λανθασμένα ρυθμισμένες ομάδες ασφαλείας.
06
Γράψτε προσαρμοσμένους κανόνες σε YAML — δεν απαιτείται γνώση Rust. Ορίστε τύπους κόμβων AST, μοτίβα regex, περιορισμούς πλαισίου ανώτερων κόμβων και προτάσεις διόρθωσης. Δημιουργήστε νέους κανόνες με μία μόνο εντολή.
07
Native SARIF v2.1.0 output για ενσωμάτωση στην καρτέλα GitHub Security. Τα ευρήματα εμφανίζονται ως inline σχολιασμοί PR με σοβαρότητα, προτάσεις διόρθωσης και αναφορές. Υποστηρίζει επίσης JSON και κείμενο ως μορφές εξόδου.
08
Η προαιρετική διαλογή με Mistral AI ή τοπικά μοντέλα Ollama μπορεί να βοηθήσει στο φιλτράρισμα πιθανών ψευδώς θετικών, στην ανακατάταξη των ευρημάτων βάσει πλαισίου και στην πρόταση διορθώσεων. Ενεργοποιείται με τη σημαία --ai και δεν αντικαθιστά τον έλεγχο ασφαλείας.
09
Μια διεπαφή LSP παρέχει διαγνωστικά και επιλεγμένες ενέργειες κώδικα σε συμβατούς επεξεργαστές. Η συμπεριφορά στον επεξεργαστή και η κάλυψη των κανόνων πρέπει να επικυρωθούν στη ροή εργασίας όπου θα χρησιμοποιηθούν.
10
Το αποθετήριο περιλαμβάνει ένα GitHub Action και μια διαδρομή ενσωμάτωσης μέσω γραμμής εντολών για CI. Οι άλλες ενσωματώσεις pipeline απαιτούν ρύθμιση και επικύρωση από τον διαχειριστή.
210 κανόνες σε 5 κατηγορίες
Ντετερμινιστικοί κανόνες εντοπίζουν επιλεγμένα μοτίβα εφαρμογών AI. Η προαιρετική διαλογή με υποστήριξη μοντέλου μπορεί να βοηθήσει στην κατάταξη των ευρημάτων, αλλά καμία από τις δύο διαδρομές δεν αντικαθιστά τον έλεγχο ασφαλείας.
Μόνο επιφάνεια αποθετηρίου: διαθεσιμότητα, πληρότητα, απόδοση και λειτουργική καταλληλότητα απαιτούν ξεχωριστή επικύρωση.
Σκληρά κωδικοποιημένα κλειδιά API σε πρότυπα προτροπών, SQL μέσω συνένωσης συμβολοσειρών σε 'απλώς demo' μονοπάτια κώδικα, μη ασφαλής αποσειριοποίηση, eval της εξόδου LLM, μυστικά καταγεγραμμένα στο επίπεδο INFO. Το σύνολο των μοτίβων που εμφανίζονται όταν το 'λειτουργεί μια φορά' υπερισχύει του 'λειτουργεί με ασφάλεια.'
Ορισμοί εργαλείων χωρίς επικύρωση παραμέτρων, δυνατότητες πρακτόρων που επικαλύπτονται με προνόμια διαχειριστή, έλλειψη ορίων ρυθμού σε εργαλεία που μπορούν να κληθούν από LLM, πρόθεμα προτροπής που διαρρέει την ταυτότητα του συστήματος. Το σύνολο που επιτρέπει σε ένα jailbreak να εξελιχθεί σε περιστατικό.
Μη απολυμασμένη έξοδος LLM που αποδίδεται ως HTML, διανύσματα έγχυσης προτροπής σε πλαίσιο ελεγχόμενο από τον χρήστη, έμμεση έγχυση μέσω ανακτημένων εγγράφων, έξοδος μοντέλου διοχετευμένη σε κέλυφος ή eval, έλλειψη επικύρωσης σχήματος εξόδου. Το OWASP-LLM-Top-10 υλοποιημένο στην πράξη.
Έκθεση Next.js Server Action χωρίς έλεγχο ταυτότητας, παράκαμψη έγχυσης εξαρτήσεων FastAPI, διαρροή αλυσίδας σκέψης LangChain, SQL injection μέσω raw() στο Django ORM, μη ασφαλής απόδοση προτύπου. Κανόνες ανά πλαίσιο, όχι γενική παρακολούθηση ροής δεδομένων.
Δημόσιο S3 με ευαίσθητα προθέματα, ρόλοι IAM με ενέργειες `*`, δικαιώματα cross-account στο AWS Bedrock, έκθεση GCP Vertex AI σε πλαίσιο χωρίς λογαριασμό υπηρεσίας. Το σύνολο που επιτρέπει σε ένα διαρρεύσαν URL τελικού σημείου να εξελιχθεί σε πλήρη εξαγωγή δεδομένων.
Τεχνολογικό Stack
Οι τεχνολογίες κατονομάζουν εξαρτήσεις ή επιφάνειες προσαρμογέων του αποθετηρίου· δεν δηλώνουν ενεργή ενσωμάτωση ή ανάπτυξη.
Πηγαίος Κώδικας
Ο πηγαίος κώδικας του Achilles AI είναι διαθέσιμος κατόπιν αιτήματος για σκοπούς αξιολόγησης και συνεργασίας.
Για πρόσβαση στον πηγαίο κώδικα, παρακαλούμε υπογράψτε τη Συμφωνία Εμπιστευτικότητας.
Χρειάζεστε βοήθεια για την ασφάλεια κώδικα που παράγεται από AI στην παραγωγή; Οι συμβουλευτικές μας υπηρεσίες συμπληρώνουν το Achilles AI.
Δώδεκα έως είκοσι τέσσερις εβδομάδες για ταξινόμηση κινδύνου των συστημάτων ΤΝ σας, υποστήριξη της αξιολόγησης συμμόρφωσης υπό την ευθύνη του παρόχου και κατασκευή των αποδεικτικών στοιχείων, παραγωγή τεχνικής τεκμηρίωσης Παραρτήματος IV και εγκατάσταση παρακολούθησης μετά την κυκλοφορία — με ειδικό βάθος στις κατηγορίες υψηλού κινδύνου που ισχύουν για αυτόνομες, βιομηχανικές και ρομποτικές αναπτύξεις
Συνεργασία
Είτε χρειάζεστε έλεγχο ασφαλείας κώδικα AI για την ομάδα σας, είτε θέλετε να εξερευνήσετε μια συνεργασία στον χώρο του AppSec.
Από την επίδειξη στην αξιόπιστη λειτουργία. Εγγραφείτε για νέα αναγνώσματα σχετικά με το Physical AI.
Διαγραφή ανά πάσα στιγμή. Χωρίς spam, ποτέ.