Security capability experiment
Στατική Ανάλυση για Κώδικα που Δημιουργείται από AI
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Γέφυρα επιχείρησης ↔ τεχνολογίας · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
Πρόκειται για ερμηνεία χαρτοφυλακίου και πηγής, όχι για ισχυρισμό πελάτη, ανάπτυξης, πιστοποίησης ή αποτελέσματος.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
Τεκμήρια πηγαίου κώδικα
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Το λεπτομερές τεχνικό στιγμιότυπο διατηρείται στα αγγλικά.
Τα τεκμήρια αποθετηρίου δεν αποτελούν τεκμήρια πελατών, ανάπτυξης, πιστοποίησης ή αποτελεσμάτων.
Αρχιτεκτονική
Τρία επίπεδα: ενσωμάτωση CLI/CI με απλή προσθήκη, ένας σαρωτής AST με 210 κανόνες βελτιστοποιημένος για πρότυπα που δημιουργούνται από AI, και ένας ταξινομητής σοβαρότητας με κρίση LLM που τοποθετεί τους πραγματικούς κινδύνους στην κορυφή.
Μόνο χάρτης πηγής: ένα επίπεδο μπορεί να αναπαριστά υλοποιημένο κώδικα, όριο προσαρμογέα ή τεκμηριωμένο σχεδιασμό. Δεν αποδεικνύει διαμορφωμένη υπηρεσία παραγωγής.
Ενιαίο δυαδικό αρχείο Go, χωρίς runtime. CLI για τοπικές σαρώσεις, ενσωμάτωση GitHub/GitLab CI, έξοδος SARIF για διεπαφές σάρωσης κώδικα. Εκτελείται σε δευτερόλεπτα σε ένα commit του Cursor· εκτελείται σε λεπτά σε μια codebase κλίμακας 1M γραμμών του Auralink.
Σαρωτές AST για Python, TypeScript, JavaScript, Go. Πέντε κατηγορίες κανόνων: πρότυπα vibe-code, ασφάλεια agent (ορισμοί εργαλείων, ανεξέλεγκτη επέκταση δυνατοτήτων), κίνδυνοι εφαρμογών LLM (ένεση προτροπών, μη απολυμασμένη έξοδος), ευπάθειες frameworks, λανθασμένες ρυθμίσεις cloud. Τα πρότυπα που δεν διαθέτουν τα εργαλεία SAST.
Ταξινόμηση με κρίση LLM (Mistral τοπικά ή hosted) επαναταξινομεί τα ευρήματα με βάση την εκμεταλλευσιμότητα στο stack σας. Όχι πλέον αναφορές με 500 ευρήματα που κανείς δεν διαβάζει — οι κορυφαίες 10 είναι πραγματικά οι κορυφαίες 10, με μια σύντομη εξήγηση που ένας προγραμματιστής μπορεί να δράσει.
Το Πρόβλημα
Γιατί ο κώδικας που παράγεται από AI αποτελεί κίνδυνο ασφαλείας
Οι βοηθοί AI παράγουν κώδικα ταχύτερα από ό,τι μπορούν να τον αξιολογήσουν οι άνθρωποι. Το vibe coding — η αποδοχή προτάσεων AI με ελάχιστο έλεγχο — είναι ο νέος κανόνας.
Η AI βελτιστοποιεί για λειτουργικό κώδικα, όχι για ασφαλή κώδικα. Το ίδιο hardcoded μυστικό, η ίδια συνένωση SQL, η ίδια επιτρεπτική CORS — επαναλαμβάνονται σε χιλιάδες έργα.
Τα Semgrep, Snyk και CodeQL δεν κατανοούν πρότυπα prompts, ορισμούς εργαλείων agents ή χειρισμό εξόδου LLM. Οι νέες επιφάνειες επίθεσης έχουν μηδενική κάλυψη.
Οι αυτόνομοι agents λαμβάνουν αποφάσεις πραγματικού κόσμου με πρόσβαση στο σύστημα αρχείων, εγγραφές σε βάσεις δεδομένων και εντολές shell. Κανένα υπάρχον εργαλείο δεν ελέγχει τα όρια δικαιωμάτων τους.
Κανόνες
210 κανόνες που στοχεύουν πέντε τομείς ευπαθειών ειδικούς για AI
Μόνο πεδίο πηγής: μια εγγραφή μπορεί να περιγράφει κώδικα, τεκμηριωμένο προσαρμογέα ή διαμορφωμένη ροή. Δεν δηλώνει ενεργή υπηρεσία παραγωγής.
01
40 κανόνες για μοτίβα που παράγονται συχνά από βοηθούς κωδικοποίησης AI: hardcoded μυστικά σε prompts, SQL injection μέσω συνένωσης, επικίνδυνη εκτέλεση κώδικα, ανασφαλείς προεπιλογές, απουσία αυθεντικοποίησης, path traversal, ανασφαλής αποσειριοποίηση και αδύναμη κρυπτογραφία.
02
30 κανόνες για κώδικα αυτόνομων agents: υπερβολικά επιτρεπτικοί ορισμοί εργαλείων, απεριόριστη πρόσβαση στο σύστημα αρχείων, εκτέλεση εντολών shell από είσοδο χρήστη, απουσία καταγραφής ελέγχου, καμία επιβεβαίωση πριν από καταστροφικές ενέργειες, ανασφαλής επικοινωνία μεταξύ agents και φορείς κλιμάκωσης προνομίων.
03
40 κανόνες για εφαρμογές LLM σε παραγωγή: ακατέργαστη είσοδος χρήστη σε system prompts, μη απολυμασμένη απόδοση HTML, εκτέλεση SQL που δημιουργήθηκε από LLM, εκτεθειμένα κλειδιά API, απουσία ανίχνευσης prompt injection, ανασφαλείς ροές OAuth, χρήση αποσυρμένων SDK, μη επικυρωμένες έξοδοι εργαλείων και κινδύνους διαρροής δεδομένων εκπαίδευσης.
04
50 κανόνες για 10 frameworks: Express.js, Django, Flask, FastAPI, Spring Boot, Laravel, Rails, Next.js, NestJS και Gin — καλύπτοντας έκθεση λειτουργίας debug, απουσία auth guards, CORS wildcards, mass assignment, μη επικυρωμένα DTOs και διαρροές actuator endpoints.
05
50 κανόνες για 7 πλατφόρμες: AWS (15), Terraform (10), Kubernetes (6), GitHub Actions (5), GCP (5), Azure (5), Docker (4) — καλύπτοντας υπερβολικές άδειες IAM, δημόσια buckets, απενεργοποιημένη κρυπτογράφηση, προνομιακά containers, μη καρφιτσωμένα Actions και λανθασμένα ρυθμισμένες ομάδες ασφαλείας.
06
Γράψτε προσαρμοσμένους κανόνες σε YAML — δεν απαιτείται γνώση Rust. Ορίστε τύπους κόμβων AST, μοτίβα regex, περιορισμούς πλαισίου ανώτερων κόμβων και προτάσεις διόρθωσης. Δημιουργήστε νέους κανόνες με μία μόνο εντολή.
07
Native SARIF v2.1.0 output για ενσωμάτωση στην καρτέλα GitHub Security. Τα ευρήματα εμφανίζονται ως inline σχολιασμοί PR με σοβαρότητα, προτάσεις διόρθωσης και αναφορές. Υποστηρίζει επίσης JSON και κείμενο ως μορφές εξόδου.
08
Ενσωματώστε Mistral AI ή τοπικά μοντέλα Ollama για μείωση ψευδών θετικών, αναταξινόμηση σοβαρότητας βάσει πλαισίου και δημιουργία στοχευμένων προτάσεων διόρθωσης. Ενεργοποιήστε με μία μόνο σημαία --ai — λειτουργεί με οποιοδήποτε υποστηριζόμενο μοντέλο.
09
Ανατροφοδότηση ασφαλείας σε πραγματικό χρόνο στον επεξεργαστή σας μέσω του Achilles AI LSP server. Inline διαγνωστικά, ενέργειες κώδικα και προτάσεις διόρθωσης καθώς πληκτρολογείτε — λειτουργεί με VS Code, Neovim και οποιονδήποτε LSP-συμβατό επεξεργαστή.
10
Έτοιμο GitHub Action για αυτοματοποιημένη σάρωση σε κάθε push και pull request. Υποστηρίζει επίσης GitLab CI, Bitbucket Pipelines και pre-commit hooks. Ενιαίο binary — χωρίς εξαρτήσεις εκτέλεσης.
210 κανόνες σε 5 κατηγορίες
Οι βοηθοί AI βελτιστοποιούν για το 'λειτουργεί,' όχι για το 'ασφαλές.' Το Achilles κατονομάζει κάθε αντι-μοτίβο που δημιουργείται από AI και έχουμε δει σε κλίμακα σε πάνω από 1M+ γραμμές κώδικα με ενίσχυση AI, και στη συνέχεια παρέχει έναν ταξινομητή LLM που τοποθετεί τους πραγματικούς κινδύνους στην κορυφή της αναφοράς.
Μόνο επιφάνεια αποθετηρίου: διαθεσιμότητα, πληρότητα, απόδοση και λειτουργική καταλληλότητα απαιτούν ξεχωριστή επικύρωση.
47 RULESΣκληρά κωδικοποιημένα κλειδιά API σε πρότυπα προτροπών, SQL μέσω συνένωσης συμβολοσειρών σε 'απλώς demo' μονοπάτια κώδικα, μη ασφαλής αποσειριοποίηση, eval της εξόδου LLM, μυστικά καταγεγραμμένα στο επίπεδο INFO. Το σύνολο των μοτίβων που εμφανίζονται όταν το 'λειτουργεί μια φορά' υπερισχύει του 'λειτουργεί με ασφάλεια.'
38 RULESΟρισμοί εργαλείων χωρίς επικύρωση παραμέτρων, δυνατότητες πρακτόρων που επικαλύπτονται με προνόμια διαχειριστή, έλλειψη ορίων ρυθμού σε εργαλεία που μπορούν να κληθούν από LLM, πρόθεμα προτροπής που διαρρέει την ταυτότητα του συστήματος. Το σύνολο που επιτρέπει σε ένα jailbreak να εξελιχθεί σε περιστατικό.
52 RULESΜη απολυμασμένη έξοδος LLM που αποδίδεται ως HTML, διανύσματα έγχυσης προτροπής σε πλαίσιο ελεγχόμενο από τον χρήστη, έμμεση έγχυση μέσω ανακτημένων εγγράφων, έξοδος μοντέλου διοχετευμένη σε κέλυφος ή eval, έλλειψη επικύρωσης σχήματος εξόδου. Το OWASP-LLM-Top-10 υλοποιημένο στην πράξη.
43 RULESΈκθεση Next.js Server Action χωρίς έλεγχο ταυτότητας, παράκαμψη έγχυσης εξαρτήσεων FastAPI, διαρροή αλυσίδας σκέψης LangChain, SQL injection μέσω raw() στο Django ORM, μη ασφαλής απόδοση προτύπου. Κανόνες ανά πλαίσιο, όχι γενική παρακολούθηση ροής δεδομένων.
30 RULESΔημόσιο S3 με ευαίσθητα προθέματα, ρόλοι IAM με ενέργειες `*`, δικαιώματα cross-account στο AWS Bedrock, έκθεση GCP Vertex AI σε πλαίσιο χωρίς λογαριασμό υπηρεσίας. Το σύνολο που επιτρέπει σε ένα διαρρεύσαν URL τελικού σημείου να εξελιχθεί σε πλήρη εξαγωγή δεδομένων.
Τεχνολογικό Stack
Οι τεχνολογίες κατονομάζουν εξαρτήσεις ή επιφάνειες προσαρμογέων του αποθετηρίου· δεν αποδεικνύουν ενεργή ενσωμάτωση ή ανάπτυξη.
Πηγαίος Κώδικας
Ο πηγαίος κώδικας του Achilles AI είναι διαθέσιμος κατόπιν αιτήματος για σκοπούς αξιολόγησης και συνεργασίας.
Για πρόσβαση στον πηγαίο κώδικα, παρακαλούμε υπογράψτε τη Συμφωνία Εμπιστευτικότητας.
Χρειάζεστε βοήθεια για την ασφάλεια κώδικα που παράγεται από AI στην παραγωγή; Οι συμβουλευτικές μας υπηρεσίες συμπληρώνουν το Achilles AI.
Δώδεκα έως είκοσι τέσσερις εβδομάδες για ταξινόμηση κινδύνου των συστημάτων ΤΝ σας, υποστήριξη της αξιολόγησης συμμόρφωσης υπό την ευθύνη του παρόχου και κατασκευή των αποδεικτικών στοιχείων, παραγωγή τεχνικής τεκμηρίωσης Παραρτήματος IV και εγκατάσταση παρακολούθησης μετά την κυκλοφορία — με ειδικό βάθος στις κατηγορίες υψηλού κινδύνου που ισχύουν για αυτόνομες, βιομηχανικές και ρομποτικές αναπτύξεις
Συνεργασία
Είτε χρειάζεστε έλεγχο ασφαλείας κώδικα AI για την ομάδα σας, είτε θέλετε να εξερευνήσετε μια συνεργασία στον χώρο του AppSec.
Από την επίδειξη στην αξιόπιστη λειτουργία. Λάβετε μια εβδομαδιαία σημείωση αποφάσεων για προϊόντα Physical AI.
Διαγραφή ανά πάσα στιγμή. Χωρίς spam, ποτέ.