Security capability experiment
Statische Analyse voor AI-Gegenereerde Code
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
Brug business ↔ technologie · Security capability experiment
Explores deterministic security analysis for AI-generated and AI-application code.
Dit is een interpretatie van portfolio en broncode, geen claim over klanten, implementatie, certificering of resultaten.
AI-assisted development can increase code volume and repeat insecure patterns faster than conventional review capacity grows.
Keep deterministic parsing and source-controlled rules primary, with model-assisted triage optional and explicitly separate.
Rust crates, tree-sitter parsers, YAML rules, SARIF output, CLI, LSP, CI integration, and selected fixtures.
Findings and unresolved uncertainty return to remediation priority, release criteria, security review, and engineering policy.
Broncodebewijs
A Rust static-analysis tool focused on AI-generated and AI-application code patterns. It combines tree-sitter parsing, source-controlled rules, SARIF output, command-line and editor surfaces, and optional model-assisted triage.
De gedetailleerde technische momentopname wordt in het Engels bijgehouden.
Repositorybewijs is geen bewijs van klanten, implementatie, certificering of resultaten.
Architectuur
Drie lagen: CLI- en CI-integratie, een AST-scanner met 210 regels voor geselecteerde patronen in AI-gegenereerde code en AI-toepassingen, en optionele modelondersteunde triage die kan helpen bevindingen te rangschikken. Geen van de drie vervangt een security review.
Alleen een bronkaart: een laag kan geïmplementeerde code, een adaptergrens of gedocumenteerd ontwerp voorstellen. Dit bewijst geen geconfigureerde productiedienst.
De Rust-opdrachtregel, LSP, CI en SARIF ondersteunen lokale scans en scans in de reviewworkflow. Er wordt geen universele runtime en geen prestatie op schaal geclaimd.
AST-scanners voor Python, TypeScript, JavaScript, Go. Vijf regelcategorieën: vibe-codepatronen, agent-security (tooldefinities, capability sprawl), LLM-applicatierisico's (prompt injection, niet-gesanitiseerde output), frameworkkwetsbaarheden, cloud-misconfiguraties. Algemene scanners en deze regels dekken verschillende gebieden.
Optionele triage met een Mistral-model, lokaal of gehost, kan helpen waarschijnlijke foutpositieven uit te filteren en bevindingen op basis van context opnieuw te rangschikken. Ze draait alleen als ze is ingeschakeld en vervangt geen security review.
Het Probleem
Waarom AI-gegenereerde code een beveiligingsrisico vormt
AI-assistenten genereren code sneller dan mensen deze kunnen beoordelen. Vibe coding -- het accepteren van AI-suggesties met minimale controle -- is de nieuwe standaard.
AI optimaliseert voor werkende code, niet voor veilige code. Hetzelfde hardcoded geheim, dezelfde SQL-concatenatie, dezelfde permissieve CORS -- herhaald in duizenden projecten.
Algemene scanners en op AI gerichte regels dekken verschillende gebieden. Prompt-templates, agent-tools en de verwerking van modeluitvoer hebben baat bij eigen controles naast bestaande SAST.
Agents kunnen bestands-, database-, netwerk- of shellmogelijkheden krijgen. Hun toestemmingsgrenzen en tool-invoer vragen om een beoordeling die verder gaat dan gangbare controles van applicatiecode.
Regels
210 regels gericht op vijf AI-specifieke kwetsbaarheidsdomeinen
Alleen bronbereik: een item kan code, een gedocumenteerde adapter of geconfigureerde workflow beschrijven. Het zegt niet dat een productiedienst actief is.
01
40 regels voor patronen die vaak worden gegenereerd door AI-codeerassistenten: hardcoded geheimen in prompts, SQL-injectie via concatenatie, gevaarlijke code-uitvoering, onveilige standaardinstellingen, ontbrekende authenticatie, path-traversal, onveilige deserialisatie en zwakke cryptografie.
02
30 regels voor autonome agentcode: te ruime tooldefinities, onbeperkte bestandssysteemtoegang, shellcommando-uitvoering vanuit gebruikersinvoer, ontbrekende auditlogging, geen bevestiging voor destructieve acties, onveilige inter-agent-communicatie en privilege-escalatievectoren.
03
40 regels voor productie-LLM-applicaties: ruwe gebruikersinvoer in systeemprompts, niet-gesanitiseerde HTML-weergave, door LLM gegenereerde SQL-uitvoering, blootgestelde API-sleutels, ontbrekende prompt-injectiedetectie, onveilige OAuth-flows, verouderd SDK-gebruik, niet-gevalideerde tool-outputs en risico's op exfiltratie van trainingsdata.
04
50 regels voor 10 frameworks: Express.js, Django, Flask, FastAPI, Spring Boot, Laravel, Rails, Next.js, NestJS en Gin — dekt debug-modus blootstelling, ontbrekende auth guards, CORS wildcards, mass assignment, niet-gevalideerde DTOs en actuator endpoint lekken.
05
50 regels voor 7 platformen: AWS (15), Terraform (10), Kubernetes (6), GitHub Actions (5), GCP (5), Azure (5), Docker (4) — dekt IAM over-toestemming, openbare buckets, uitgeschakelde versleuteling, bevoorrechte containers, ongepinde Actions en verkeerd geconfigureerde beveiligingsgroepen.
06
Schrijf aangepaste regels in YAML -- geen Rust-kennis vereist. Definieer AST-knooppunttypen, regex-patronen, vooroudercontextbeperkingen en fix-suggesties. Genereer nieuwe regels met een enkel commando.
07
Native SARIF v2.1.0-uitvoer voor integratie met het GitHub Security-tabblad. Bevindingen verschijnen als inline PR-annotaties met ernst, fix-suggesties en referenties. Ondersteunt ook JSON- en tekstuitvoer.
08
Optionele triage met Mistral AI of lokale Ollama-modellen kan helpen waarschijnlijke foutpositieven uit te filteren, bevindingen op basis van context opnieuw te rangschikken en fixes voor te stellen. Ze wordt ingeschakeld met de vlag --ai en vervangt geen security review.
09
Een LSP-koppeling levert diagnostiek en geselecteerde code-acties aan compatibele editors. Het gedrag in de editor en de regeldekking moeten in de beoogde workflow worden gevalideerd.
10
De repository bevat een GitHub Action en een integratiepad via de opdrachtregel voor CI. Andere pipeline-integraties vragen configuratie en validatie door de beheerder.
210 regels verdeeld over 5 categorieën
Deterministische regels herkennen geselecteerde patronen in AI-toepassingen; optionele modelondersteunde triage kan helpen bevindingen te rangschikken, maar geen van beide vervangt een security review.
Alleen repository-oppervlak: beschikbaarheid, volledigheid, prestaties en operationele geschiktheid vereisen afzonderlijke validatie.
Hardgecodeerde API-sleutels in prompt-templates, SQL via string-concat in 'alleen demo'-codepaden, onveilige deserialisatie, eval van LLM-uitvoer, geheimen gelogd op INFO. De cluster van patronen die worden geleverd wanneer 'werkt één keer' wint van 'werkt veilig.'
Tooldefinities zonder parametervalidatie, agentcapaciteiten die overlappen met beheerdersrechten, ontbrekende ratelimieten op LLM-aanroepbare tools, prompt-prefixes die systeemidentiteit lekken. De cluster die ervoor zorgt dat een jailbreak uitgroeit tot een incident.
Niet-gesanitiseerde LLM-uitvoer gerenderd als HTML, prompt-injection vectors in door gebruikers gecontroleerde context, indirecte injectie via opgehaalde documenten, modeluitvoer doorgestuurd naar shell of eval, ontbrekende validatie van outputschema. De OWASP-LLM-Top-10 in concrete vorm.
Next.js Server Action-blootstelling zonder authenticatie, FastAPI dependency injection-bypass, LangChain chain-of-thought-lekkage, Django ORM SQL-injectie via raw(), onveilige template-rendering. Per-framework regels, geen generieke taint-tracking.
Publieke S3 met gevoelige prefixen, IAM-rollen met `*` acties, AWS Bedrock cross-account permissies, GCP Vertex AI blootgesteld in een context zonder serviceaccount. De cluster die ervoor zorgt dat een gelekt endpoint-URL uitgroeit tot een volledige data-exfiltratie.
Technologiestack
Genoemde technologieën duiden repository-afhankelijkheden of adapteroppervlakken aan; ze bewijzen geen actieve integratie of implementatie.
Broncode
De Achilles AI-broncode is op aanvraag beschikbaar voor evaluatie- en samenwerkingsdoeleinden.
Om toegang te krijgen tot de broncode, dient u onze Geheimhoudingsovereenkomst te ondertekenen.
Hulp nodig bij het beveiligen van AI-gegenereerde code in productie? Onze adviesdiensten vullen Achilles AI aan.
Twaalf tot vierentwintig weken om uw AI-systemen te risicoklassificeren, de door de aanbieder geleide conformiteitsbeoordeling te ondersteunen en het bewijsmateriaal op te bouwen, de Bijlage IV-technische documentatie te produceren en post-marktbewaking op te zetten — met bijzondere diepgang voor de hoogrisico-categorieën die van toepassing zijn op autonome, industriële en robotica-implementaties
Samenwerking
Of u nu AI-codebeveiligingsaudits voor uw team nodig heeft of een samenwerking in de AppSec-ruimte wilt verkennen.
Van demo naar betrouwbare operatie. Abonneer u op nieuwe artikelen over Physical AI.
Op elk moment uitschrijven. Nooit spam.