Achilles AI

Clés API codées en dur dans les templates de prompts, SQL via concaténation de chaînes dans les chemins de code 'juste pour la démo,' désérialisation non sécurisée, évaluation de la sortie LLM, secrets logués en niveau INFO. L'ensemble des patterns qui sont livrés quand 'ça marche une fois' l'emporte sur 'ça marche en toute sécurité.'

Définitions d'outils sans validation des paramètres, capacités d'agent qui chevauchent les privilèges admin, absence de limites de débit sur les outils appelables par LLM, préfixes de prompts qui divulguent l'identité du système. L'ensemble qui permet à un jailbreak de se transformer en incident.

Sortie LLM non assainie rendue en HTML, vecteurs d'injection de prompt dans un contexte contrôlé par l'utilisateur, injection indirecte via des documents récupérés, sortie du modèle redirigée vers un shell ou eval, absence de validation du schéma de sortie. L'OWASP-LLM-Top-10 concrétisé.

Exposition de Next.js Server Action sans authentification, contournement de l'injection de dépendances FastAPI, fuite de la chaîne de pensée LangChain, injection SQL via raw() dans Django ORM, rendu de template non sécurisé. Règles spécifiques à chaque framework, pas un suivi de taint générique.

S3 publics avec des préfixes sensibles, rôles IAM avec des actions `*`, permissions cross-account AWS Bedrock, GCP Vertex AI exposé dans un contexte sans compte de service. L'ensemble qui permet à une URL de point de terminaison divulguée de se transformer en exfiltration complète de données.