Zum Inhalt springen
Zurück zum Glossar

Bereitstellung

Model Compression

Definition

Techniques such as quantization, distillation, pruning, and low-rank factorisation that aim to reduce model size or computation. Compression introduces trade-offs that depend on the model, task, runtime and hardware. Validate quality, resource use and latency for the resulting configuration before treating it as suitable for deployment.

Hilfe beim Verständnis von KI Benötigt?

Buchen Sie ein Physical-AI-Eignungsgespräch, um zu besprechen, wie diese KI-Konzepte auf Ihre Branche und Ihre Herausforderungen anwendbar sind.