Achilles AI

Σκληρά κωδικοποιημένα κλειδιά API σε πρότυπα προτροπών, SQL μέσω συνένωσης συμβολοσειρών σε 'απλώς demo' μονοπάτια κώδικα, μη ασφαλής αποσειριοποίηση, eval της εξόδου LLM, μυστικά καταγεγραμμένα στο επίπεδο INFO. Το σύνολο των μοτίβων που εμφανίζονται όταν το 'λειτουργεί μια φορά' υπερισχύει του 'λειτουργεί με ασφάλεια.'

Ορισμοί εργαλείων χωρίς επικύρωση παραμέτρων, δυνατότητες πρακτόρων που επικαλύπτονται με προνόμια διαχειριστή, έλλειψη ορίων ρυθμού σε εργαλεία που μπορούν να κληθούν από LLM, πρόθεμα προτροπής που διαρρέει την ταυτότητα του συστήματος. Το σύνολο που επιτρέπει σε ένα jailbreak να εξελιχθεί σε περιστατικό.

Μη απολυμασμένη έξοδος LLM που αποδίδεται ως HTML, διανύσματα έγχυσης προτροπής σε πλαίσιο ελεγχόμενο από τον χρήστη, έμμεση έγχυση μέσω ανακτημένων εγγράφων, έξοδος μοντέλου διοχετευμένη σε κέλυφος ή eval, έλλειψη επικύρωσης σχήματος εξόδου. Το OWASP-LLM-Top-10 υλοποιημένο στην πράξη.

Έκθεση Next.js Server Action χωρίς έλεγχο ταυτότητας, παράκαμψη έγχυσης εξαρτήσεων FastAPI, διαρροή αλυσίδας σκέψης LangChain, SQL injection μέσω raw() στο Django ORM, μη ασφαλής απόδοση προτύπου. Κανόνες ανά πλαίσιο, όχι γενική παρακολούθηση ροής δεδομένων.

Δημόσιο S3 με ευαίσθητα προθέματα, ρόλοι IAM με ενέργειες `*`, δικαιώματα cross-account στο AWS Bedrock, έκθεση GCP Vertex AI σε πλαίσιο χωρίς λογαριασμό υπηρεσίας. Το σύνολο που επιτρέπει σε ένα διαρρεύσαν URL τελικού σημείου να εξελιχθεί σε πλήρη εξαγωγή δεδομένων.