Achilles AI

Hardcodierte API-Schlüssel in Prompt-Templates, SQL via String-Konkatenation in 'nur Demo'-Code-Pfaden, unsichere Deserialisierung, Eval von LLM-Ausgaben, Secrets, die auf INFO-Level geloggt werden. Die Ansammlung von Mustern, die ausgeliefert werden, wenn 'funktioniert einmal' über 'funktioniert sicher' siegt.

Tool-Definitionen ohne Parameter-Validierung, Agent-Fähigkeiten, die sich mit Admin-Privilegien überschneiden, fehlende Ratenbegrenzungen für LLM-aufrufbare Tools, Prompt-Präfixe, die Systemidentitäten preisgeben. Die Ansammlung, die aus einem Jailbreak einen Vorfall macht.

Unsanitisierte LLM-Ausgaben, die als HTML gerendert werden, Prompt-Injection-Vektoren in benutzerkontrolliertem Kontext, indirekte Injection über abgerufene Dokumente, Modellausgaben, die in Shell oder Eval geleitet werden, fehlende Validierung des Ausgabe-Schemas. Das OWASP-LLM-Top-10 konkret umgesetzt.

Next.js Server Action Exposure ohne Authentifizierung, FastAPI Dependency Injection Bypass, LangChain Chain-of-Thought-Leakage, Django ORM SQL-Injection via raw(), unsicheres Template-Rendering. Framework-spezifische Regeln, kein generisches Taint-Tracking.

Öffentliche S3-Buckets mit sensiblen Präfixen, IAM-Rollen mit `*`-Aktionen, AWS Bedrock Cross-Account-Berechtigungen, GCP Vertex AI in einem Kontext ohne Service-Account exponiert. Die Ansammlung, die aus einer geleakten Endpunkt-URL eine vollständige Datenexfiltration macht.