Security capability experiment
Statische Analyse voor AI-Gegenereerde Code
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Brug business ↔ technologie · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
Dit is een interpretatie van portfolio en broncode, geen claim over klanten, implementatie, certificering of resultaten.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
Broncodebewijs
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
De gedetailleerde technische momentopname wordt in het Engels bijgehouden.
Repositorybewijs is geen bewijs van klanten, implementatie, certificering of resultaten.
Architectuur
Drie lagen: plug-and-play CLI/CI-integratie, een AST-scanner met 210 regels afgestemd op AI-gegenereerde patronen, en een LLM-beoordeelde ernst-rangschikker die de echte risico's bovenaan zet.
Alleen een bronkaart: een laag kan geïmplementeerde code, een adaptergrens of gedocumenteerd ontwerp voorstellen. Dit bewijst geen geconfigureerde productiedienst.
Enkele Go-binary, geen runtime. CLI voor lokale scans, GitHub/GitLab CI-integratie, SARIF-uitvoer voor code-scanning UI's. Draait in seconden op een Cursor-commit; draait in minuten op een codebase van 1M regels op Auralink-schaal.
AST-scanners voor Python, TypeScript, JavaScript, Go. Vijf regelcategorieën: vibe-code patronen, agent-security (tooldefinities, capability sprawl), LLM-applicatierisico's (prompt injection, niet-gesanitiseerde output), frameworkkwetsbaarheden, cloud-misconfiguraties. De patronen die SAST-tools niet hebben.
LLM-beoordeelde scoring (Mistral lokaal of gehost) rangschikt bevindingen opnieuw op basis van uitbuitbaarheid tegen jouw stack. Geen rapporten met 500 bevindingen die niemand leest — de top 10 zijn daadwerkelijk de top 10, met een korte uitleg waar een ontwikkelaar mee aan de slag kan.
Het Probleem
Waarom AI-gegenereerde code een beveiligingsrisico vormt
AI-assistenten genereren code sneller dan mensen deze kunnen beoordelen. Vibe coding -- het accepteren van AI-suggesties met minimale controle -- is de nieuwe standaard.
AI optimaliseert voor werkende code, niet voor veilige code. Hetzelfde hardcoded geheim, dezelfde SQL-concatenatie, dezelfde permissieve CORS -- herhaald in duizenden projecten.
Semgrep, Snyk en CodeQL begrijpen geen prompt-templates, agent-tooldefinities of LLM-outputverwerking. Nieuwe aanvalsoppervlakken hebben nul dekking.
Autonome agents nemen real-world beslissingen met bestandssysteemtoegang, databaseschrijfacties en shellcommando's. Geen enkel bestaand hulpmiddel controleert hun toestemmingsgrenzen.
Regels
210 regels gericht op vijf AI-specifieke kwetsbaarheidsdomeinen
Alleen bronbereik: een item kan code, een gedocumenteerde adapter of geconfigureerde workflow beschrijven. Het zegt niet dat een productiedienst actief is.
01
40 regels voor patronen die vaak worden gegenereerd door AI-codeerassistenten: hardcoded geheimen in prompts, SQL-injectie via concatenatie, gevaarlijke code-uitvoering, onveilige standaardinstellingen, ontbrekende authenticatie, path-traversal, onveilige deserialisatie en zwakke cryptografie.
02
30 regels voor autonome agentcode: te ruime tooldefinities, onbeperkte bestandssysteemtoegang, shellcommando-uitvoering vanuit gebruikersinvoer, ontbrekende auditlogging, geen bevestiging voor destructieve acties, onveilige inter-agent-communicatie en privilege-escalatievectoren.
03
40 regels voor productie-LLM-applicaties: ruwe gebruikersinvoer in systeemprompts, niet-gesanitiseerde HTML-weergave, door LLM gegenereerde SQL-uitvoering, blootgestelde API-sleutels, ontbrekende prompt-injectiedetectie, onveilige OAuth-flows, verouderd SDK-gebruik, niet-gevalideerde tool-outputs en risico's op exfiltratie van trainingsdata.
04
50 regels voor 10 frameworks: Express.js, Django, Flask, FastAPI, Spring Boot, Laravel, Rails, Next.js, NestJS en Gin — dekt debug-modus blootstelling, ontbrekende auth guards, CORS wildcards, mass assignment, niet-gevalideerde DTOs en actuator endpoint lekken.
05
50 regels voor 7 platformen: AWS (15), Terraform (10), Kubernetes (6), GitHub Actions (5), GCP (5), Azure (5), Docker (4) — dekt IAM over-toestemming, openbare buckets, uitgeschakelde versleuteling, bevoorrechte containers, ongepinde Actions en verkeerd geconfigureerde beveiligingsgroepen.
06
Schrijf aangepaste regels in YAML -- geen Rust-kennis vereist. Definieer AST-knooppunttypen, regex-patronen, vooroudercontextbeperkingen en fix-suggesties. Genereer nieuwe regels met een enkel commando.
07
Native SARIF v2.1.0-uitvoer voor integratie met het GitHub Security-tabblad. Bevindingen verschijnen als inline PR-annotaties met ernst, fix-suggesties en referenties. Ondersteunt ook JSON- en tekstuitvoer.
08
Integreer Mistral AI of lokale Ollama-modellen om foutpositieven te verminderen, ernst te herprioriteren op basis van context en contextuele fix-suggesties te genereren. Activeer met een enkele --ai vlag — werkt met elk ondersteund model.
09
Realtime beveiligingsfeedback in uw editor via de Achilles AI LSP-server. Inline diagnostiek, code-acties en fix-suggesties terwijl u typt — werkt met VS Code, Neovim en elke LSP-compatibele editor.
10
Kant-en-klare GitHub Action voor automatisch scannen bij elke push en pull request. Ondersteunt ook GitLab CI, Bitbucket Pipelines en pre-commit hooks. Enkele binary -- geen runtime-afhankelijkheden.
210 regels verdeeld over 5 categorieën
AI-assistenten optimaliseren voor 'werkt,' niet voor 'veilig.' Achilles benoemt elk AI-gegenereerd anti-patroon dat we op grote schaal hebben gezien in meer dan 1M+ regels AI-geaugmenteerde code, en levert vervolgens een LLM-ranker die de echte risico's bovenaan het rapport zet.
Alleen repository-oppervlak: beschikbaarheid, volledigheid, prestaties en operationele geschiktheid vereisen afzonderlijke validatie.
47 RULESHardgecodeerde API-sleutels in prompt-templates, SQL via string-concat in 'alleen demo'-codepaden, onveilige deserialisatie, eval van LLM-uitvoer, geheimen gelogd op INFO. De cluster van patronen die worden geleverd wanneer 'werkt één keer' wint van 'werkt veilig.'
38 RULESTooldefinities zonder parametervalidatie, agentcapaciteiten die overlappen met beheerdersrechten, ontbrekende ratelimieten op LLM-aanroepbare tools, prompt-prefixes die systeemidentiteit lekken. De cluster die ervoor zorgt dat een jailbreak uitgroeit tot een incident.
52 RULESNiet-gesanitiseerde LLM-uitvoer gerenderd als HTML, prompt-injection vectors in door gebruikers gecontroleerde context, indirecte injectie via opgehaalde documenten, modeluitvoer doorgestuurd naar shell of eval, ontbrekende validatie van outputschema. De OWASP-LLM-Top-10 in concrete vorm.
43 RULESNext.js Server Action-blootstelling zonder authenticatie, FastAPI dependency injection-bypass, LangChain chain-of-thought-lekkage, Django ORM SQL-injectie via raw(), onveilige template-rendering. Per-framework regels, geen generieke taint-tracking.
30 RULESPublieke S3 met gevoelige prefixen, IAM-rollen met `*` acties, AWS Bedrock cross-account permissies, GCP Vertex AI blootgesteld in een context zonder serviceaccount. De cluster die ervoor zorgt dat een gelekt endpoint-URL uitgroeit tot een volledige data-exfiltratie.
Technologiestack
Genoemde technologieën duiden repository-afhankelijkheden of adapteroppervlakken aan; ze bewijzen geen actieve integratie of implementatie.
Broncode
De Achilles AI-broncode is op aanvraag beschikbaar voor evaluatie- en samenwerkingsdoeleinden.
Om toegang te krijgen tot de broncode, dient u onze Geheimhoudingsovereenkomst te ondertekenen.
Hulp nodig bij het beveiligen van AI-gegenereerde code in productie? Onze adviesdiensten vullen Achilles AI aan.
Twaalf tot vierentwintig weken om uw AI-systemen te risicoklassificeren, de door de aanbieder geleide conformiteitsbeoordeling te ondersteunen en het bewijsmateriaal op te bouwen, de Bijlage IV-technische documentatie te produceren en post-marktbewaking op te zetten — met bijzondere diepgang voor de hoogrisico-categorieën die van toepassing zijn op autonome, industriële en robotica-implementaties
Samenwerking
Of u nu AI-codebeveiligingsaudits voor uw team nodig heeft of een samenwerking in de AppSec-ruimte wilt verkennen.
De meeste AI-pilots stranden vóór productie. Ontvang het draaiboek van de pilots die het wel halen.
Op elk moment uitschrijven. Nooit spam.