Security capability experiment
Statische Analyse fuer KI-generierten Code
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Brücke Business ↔ Technologie · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
Dies ist eine Portfolio- und Quellinterpretation, keine Aussage über Kunden, Betrieb, Zertifizierung oder Ergebnisse.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
Quellcode-Evidenz
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Der detaillierte technische Stand wird auf Englisch gepflegt.
Repository-Evidenz ist kein Nachweis für Kunden, Betrieb, Zertifizierung oder Ergebnisse.
Architektur
Drei Schichten: Plug-and-Play-CLI/CI-Integration, ein 210-Regel-AST-Scanner, abgestimmt auf KI-generierte Muster, und ein LLM-basierter Schweregrad-Ranker, der die echten Risiken an die Spitze stellt.
Nur Quellübersicht: Eine Schicht kann implementierten Code, eine Adaptergrenze oder dokumentiertes Design darstellen. Sie belegt keinen konfigurierten Produktionsdienst.
Einzelne Go-Binary, kein Runtime. CLI für lokale Scans, GitHub/GitLab-CI-Integration, SARIF-Ausgabe für Code-Scanning-UIs. Läuft in Sekunden auf einem Cursor-Commit; läuft in Minuten auf einem 1M-Zeilen-Auralink-Codebase.
AST-Scanner für Python, TypeScript, JavaScript, Go. Fünf Regelkategorien: Vibe-Code-Muster, Agent-Sicherheit (Tool-Definitionen, Capability-Sprawl), LLM-Anwendungsrisiken (Prompt-Injection, unsanitisierte Ausgabe), Framework-Schwachstellen, Cloud-Fehlkonfigurationen. Die Muster, die SAST-Tools nicht haben.
LLM-basierte Bewertung (Mistral lokal oder gehostet) ordnet Findings nach Ausnutzbarkeit in Ihrem Stack neu. Keine 500-Finding-Berichte mehr, die niemand liest — die Top 10 sind tatsächlich die Top 10, mit einer kurzen Erklärung, die ein Entwickler umsetzen kann.
Das Problem
Warum KI-generierter Code ein Sicherheitsrisiko darstellt
KI-Assistenten generieren Code schneller, als Menschen ihn ueberpruefen koennen. Vibe Coding -- KI-Vorschlaege mit minimaler Pruefung akzeptieren -- ist der neue Standard.
KI optimiert fuer funktionierenden Code, nicht fuer sicheren Code. Dasselbe hartcodierte Geheimnis, dieselbe SQL-Verkettung, dasselbe permissive CORS -- wiederholt ueber Tausende von Projekten.
Semgrep, Snyk und CodeQL verstehen keine Prompt-Vorlagen, Agenten-Tool-Definitionen oder LLM-Ausgabeverarbeitung. Neue Angriffsflaechen haben keinerlei Abdeckung.
Autonome Agenten treffen reale Entscheidungen mit Dateisystemzugriff, Datenbankschreibvorgaengen und Shell-Befehlen. Kein bestehendes Tool prueft ihre Berechtigungsgrenzen.
Regeln
210 Regeln fuer fuenf KI-spezifische Schwachstellenbereiche
Nur Quellumfang: Ein Eintrag kann Code, einen dokumentierten Adapter oder einen konfigurierten Workflow beschreiben. Er besagt nicht, dass ein Produktionsdienst aktiv ist.
01
40 Regeln fuer Muster, die haeufig von KI-Codierassistenten generiert werden: hartcodierte Geheimnisse in Prompts, SQL-Injection durch Verkettung, gefaehrliche Code-Ausfuehrung, unsichere Standardeinstellungen, fehlende Authentifizierung, Path-Traversal, unsichere Deserialisierung und schwache Kryptographie.
02
30 Regeln fuer autonomen Agentencode: zu permissive Tool-Definitionen, uneingeschraenkter Dateisystemzugriff, Shell-Befehlsausfuehrung aus Benutzereingaben, fehlende Audit-Protokollierung, keine Bestaetigung vor destruktiven Aktionen, unsichere Inter-Agenten-Kommunikation und Privilege-Escalation-Vektoren.
03
40 Regeln fuer produktive LLM-Anwendungen: rohe Benutzereingaben in System-Prompts, unbereinigtes HTML-Rendering, Ausfuehrung von LLM-generiertem SQL, exponierte API-Schluessel, fehlende Prompt-Injection-Erkennung, unsichere OAuth-Flows, veraltete SDK-Nutzung, nicht validierte Tool-Ausgaben und Risiken der Trainingsdaten-Exfiltration.
04
50 Regeln fuer 10 Frameworks: Express.js, Django, Flask, FastAPI, Spring Boot, Laravel, Rails, Next.js, NestJS und Gin -- abdeckend Debug-Modus-Exposition, fehlende Auth-Guards, CORS-Wildcards, Mass-Assignment, nicht validierte DTOs und Actuator-Endpoint-Lecks.
05
50 Regeln fuer 7 Plattformen: AWS (15), Terraform (10), Kubernetes (6), GitHub Actions (5), GCP (5), Azure (5), Docker (4) -- abdeckend IAM-Ueberprivilegierung, oeffentliche Buckets, deaktivierte Verschluesselung, privilegierte Container, nicht fixierte Actions und falsch konfigurierte Sicherheitsgruppen.
06
Schreiben Sie benutzerdefinierte Regeln in YAML -- keine Rust-Kenntnisse erforderlich. Definieren Sie AST-Knotentypen, Regex-Muster, Vorfahren-Kontexteinschraenkungen und Korrekturvorschlaege. Erstellen Sie neue Regeln mit einem einzigen Befehl.
07
Native SARIF v2.1.0-Ausgabe fuer die Integration mit dem GitHub-Sicherheits-Tab. Ergebnisse erscheinen als Inline-PR-Annotationen mit Schweregrad, Korrekturvorschlaegen und Referenzen. Unterstuetzt auch JSON- und Textausgabe.
08
Integrieren Sie Mistral AI oder lokale Ollama-Modelle, um Fehlalarme zu reduzieren, den Schweregrad kontextbasiert neu zu bewerten und kontextbezogene Korrekturvorschlaege zu generieren. Aktivieren Sie es mit einem einzigen --ai Flag -- funktioniert mit jedem unterstuetzten Modell.
09
Echtzeit-Sicherheitsfeedback in Ihrem Editor ueber den Achilles AI LSP-Server. Inline-Diagnosen, Code-Aktionen und Korrekturvorschlaege waehrend Sie tippen -- kompatibel mit VS Code, Neovim und jedem LSP-kompatiblen Editor.
10
Sofort einsetzbare GitHub Action fuer automatisierte Analyse bei jedem Push und Pull Request. Unterstuetzt auch GitLab CI, Bitbucket Pipelines und Pre-Commit-Hooks. Einzelne Binaerdatei -- keine Laufzeitabhaengigkeiten.
210 Regeln in 5 Kategorien
KI-Assistenten optimieren für 'funktioniert', nicht für 'sicher'. Achilles benennt jedes KI-generierte Anti-Pattern, das wir in großem Maßstab über 1M+ Zeilen KI-augmentierten Code gesehen haben, und liefert dann einen LLM-Ranker, der die echten Risiken an die Spitze des Berichts stellt.
Nur Repository-Oberfläche: Verfügbarkeit, Vollständigkeit, Leistung und Betriebstauglichkeit erfordern eine gesonderte Validierung.
47 RULESHardcodierte API-Schlüssel in Prompt-Templates, SQL via String-Konkatenation in 'nur Demo'-Code-Pfaden, unsichere Deserialisierung, Eval von LLM-Ausgaben, Secrets, die auf INFO-Level geloggt werden. Die Ansammlung von Mustern, die ausgeliefert werden, wenn 'funktioniert einmal' über 'funktioniert sicher' siegt.
38 RULESTool-Definitionen ohne Parameter-Validierung, Agent-Fähigkeiten, die sich mit Admin-Privilegien überschneiden, fehlende Ratenbegrenzungen für LLM-aufrufbare Tools, Prompt-Präfixe, die Systemidentitäten preisgeben. Die Ansammlung, die aus einem Jailbreak einen Vorfall macht.
52 RULESUnsanitisierte LLM-Ausgaben, die als HTML gerendert werden, Prompt-Injection-Vektoren in benutzerkontrolliertem Kontext, indirekte Injection über abgerufene Dokumente, Modellausgaben, die in Shell oder Eval geleitet werden, fehlende Validierung des Ausgabe-Schemas. Das OWASP-LLM-Top-10 konkret umgesetzt.
43 RULESNext.js Server Action Exposure ohne Authentifizierung, FastAPI Dependency Injection Bypass, LangChain Chain-of-Thought-Leakage, Django ORM SQL-Injection via raw(), unsicheres Template-Rendering. Framework-spezifische Regeln, kein generisches Taint-Tracking.
30 RULESÖffentliche S3-Buckets mit sensiblen Präfixen, IAM-Rollen mit `*`-Aktionen, AWS Bedrock Cross-Account-Berechtigungen, GCP Vertex AI in einem Kontext ohne Service-Account exponiert. Die Ansammlung, die aus einer geleakten Endpunkt-URL eine vollständige Datenexfiltration macht.
Technologien
Genannte Technologien kennzeichnen Repository-Abhängigkeiten oder Adapteroberflächen; sie belegen keine aktive Integration oder Bereitstellung.
Quellcode
Der Achilles AI-Quellcode ist auf Anfrage fuer Evaluierungs- und Partnerschaftszwecke verfuegbar.
Um auf den Quellcode zuzugreifen, unterzeichnen Sie bitte unsere Geheimhaltungsvereinbarung.
Benötigen Sie Hilfe bei der Absicherung von KI-generiertem Code in der Produktion? Unsere Beratung ergänzt Achilles AI.
Zwölf bis vierundzwanzig Wochen zur Risikoklassifizierung Ihrer KI-Systeme, Unterstützung der anbietergeführten Konformitätsbewertung und Erarbeitung der Nachweise, Erstellung der Anhang IV-Technischen Dokumentation und Einrichtung der Marktüberwachung — mit besonderer Tiefe für die Hochrisikokategorien, die für autonome, industrielle und Robotik-Einsätze gelten
Partnerschaft
Ob Sie KI-Code-Sicherheitsaudits fuer Ihr Team benoetigen oder eine Partnerschaft im Bereich AppSec erkunden moechten.
Von der Demo zum verlässlichen Betrieb. Erhalten Sie wöchentlich eine Entscheidungsnotiz für Physical-AI-Produkte.
Jederzeit abbestellbar. Kein Spam, niemals.