Achilles AI

プロンプトテンプレート内のハードコードされたAPIキー、'デモ用'コードパスでの文字列連結によるSQL、安全でないデシリアライゼーション、LLM出力のeval、INFOレベルでログに記録されるシークレット。'一度動作すれば'が'安全に動作する'に勝るときに出荷されるパターンの集まり。

パラメータ検証のないツール定義、管理者権限と重複するエージェント機能、LLM呼び出し可能なツールに対するレートリミットの欠如、システムIDを漏洩するプロンプトプレフィックス。ジェイルブレイクがインシデントに変わる原因となるパターンの集まり。

HTMLとしてレンダリングされるサニタイズされていないLLM出力、ユーザーが制御するコンテキスト内のプロンプトインジェクションベクター、取得したドキュメントを介した間接インジェクション、モデル出力がシェルやevalにパイプされる、出力スキーマ検証の欠如。OWASP-LLM-Top-10を具体化したもの。

認証なしのNext.js Server Actionの露出、FastAPI依存性注入のバイパス、LangChainの思考連鎖漏洩、Django ORMのraw()を介したSQLインジェクション、安全でないテンプレートレンダリング。フレームワークごとのルールであり、一般的なテイントトラッキングではない。

機密プレフィックスを持つ公開S3、`*`アクションを持つIAMロール、AWS Bedrockのクロスアカウント権限、サービスアカウントのないコンテキストで露出したGCP Vertex AI。漏洩したエンドポイントURLが完全なデータ流出に変わる原因となるパターンの集まり。