Vom KI-Piloten zur Produktion: Das vollständige Playbook

Für einen gut abgegrenzten Piloten beträgt der typische Zeitrahmen 8 bis 16 Wochen. Das umfasst 2-3 Wochen Architekturentwurf, 4-8 Wochen Engineering (MLOps-Pipeline, Monitoring, Sicherheit) und 2-4 Wochen schrittweisen Rollout. Komplexe Multi-Modell-Systeme oder solche mit regulatorischer Compliance können mehr als 6 Monate dauern.

Technische Schulden sind mit 38 % der Fehlschläge die Hauptursache. Piloten werden in der Regel mit Code in Notebook-Qualität gebaut, der auf Experimentieren optimiert ist, nicht auf Produktionszuverlässigkeit. Die Lücke zwischen einem funktionierenden Jupyter-Notebook und einem Produktionsdienst, der Tausende Anfragen pro Sekunde mit Monitoring, Rollback und Sicherheit bewältigt, ist gewaltig.

Anfangs nicht. Für Ihre ersten 1-2 Produktionsmodelle können ML-Ingenieure mit DevOps-Erfahrung die Pipeline bewältigen. Sobald Sie 3 oder mehr Modelle in Produktion haben, wird ein eigenes Plattform-/MLOps-Team unerlässlich, um doppelten Aufwand zu vermeiden und Konsistenz zu wahren. Viele Organisationen holen sich Beratungsunterstützung, um die Plattform aufzubauen, bevor sie das interne Team bilden.

Die Produktionsbereitstellung kostet in der Regel das 3- bis 10-Fache der Pilotentwicklungskosten. Ein Pilot, dessen Entwicklung 50K-100K kostete, kann 150K-500K kosten, um ihn produktionsreif zu machen, wenn man Infrastruktur, MLOps-Werkzeuge, Monitoring, Sicherheitshärtung und Teamskalierung berücksichtigt. Der genaue Faktor hängt von den SLA-Anforderungen, regulatorischen Vorgaben und dem Maßstab ab.

Für die meisten Organisationen funktioniert ein Ansatz „kaufen, dann anpassen“ am besten. Plattformen wie MLflow, Kubeflow, SageMaker oder Vertex AI liefern 80 % dessen, was Sie brauchen. Bauen Sie eigene Komponenten nur dort, wo sich Ihre Anforderungen echt von den Branchennormen unterscheiden — typischerweise bei domänenspezifischer Datenvalidierung, maßgeschneiderter Drift-Erkennung oder proprietärem Merkmals-Engineering.

Das Retraining sollte auslöserbasiert sein, nicht kalenderbasiert. Überwachen Sie die Vorhersagequalität, die Merkmalsdrift (PSI > 0,1) und die Geschäftskennzahlen. Wenn ein Signal einen Schwellenwert überschreitet, lösen Sie ein automatisiertes Retraining aus. Die meisten Organisationen beginnen mit wöchentlichem oder zweiwöchentlichem geplantem Retraining und entwickeln sich mit zunehmender MLOps-Reife zu vollständig ereignisgesteuertem Retraining.

Implementieren Sie eine Fallback-Hierarchie: (1) die vorherige als zuverlässig bekannte Modellversion bereitstellen, (2) einen einfacheren regelbasierten Fallback nutzen, (3) eine sichere Standardantwort zurückgeben. Jedes Produktionsmodell braucht eine definierte Degradationsstrategie. Dokumentieren Sie diese in einem Runbook und testen Sie sie regelmäßig — ein ungetesteter Fallback ist gar kein Fallback.

Der EU AI Act schreibt spezifische Anforderungen für KI-Systeme mit hohem Risiko vor, die in Produktion gehen: technische Dokumentation, menschliche Aufsicht, Risikomanagement, Daten-Governance und Transparenz. Diese Anforderungen sind keine optionalen Ergänzungen — sie müssen von Tag eins an in die Architektur des Produktionssystems eingeplant werden. Organisationen, die KI in der EU einsetzen, sollten Compliance als Gate für die Produktionsreife behandeln.

Ja, und viele Organisationen tun das erfolgreich. Open-Source-Modelle (Mistral, Llama usw.) können die Kosten erheblich senken. Die wichtigsten Überlegungen sind: Lizenzbedingungen für die kommerzielle Nutzung, Verantwortung für Support und Wartung (Sie besitzen es), Kadenz der Sicherheitspatches und Leistungsbenchmarking gegenüber proprietären Alternativen für Ihren konkreten Anwendungsfall.

Messen Sie auf drei Ebenen: (1) Modellkennzahlen — Genauigkeit, Latenz, Durchsatz. (2) Betriebskennzahlen — Reduktion manueller Prozesse, Rückgang der Fehlerrate, Zeitersparnis. (3) Geschäftskennzahlen — Umsatzwirkung, Kosteneinsparungen, Steigerung der Kundenzufriedenheit. Der häufigste Fehler ist, nur die Modellgenauigkeit zu messen. Ein Modell mit 95 % Genauigkeit, das niemand nutzt, hat einen ROI von null.