Aller au contenu
Retour au Glossaire

Techniques

Quantization

Définition

A model compression technique that lowers numerical precision, such as representing weights with 8-bit integers instead of 32-bit floating-point values. It can reduce memory use, while speed and quality depend on the model, quantization method, kernels and hardware. The chosen configuration needs evaluation on the intended workload.

Besoin d'Aide pour Comprendre l'IA?

Réservez un appel de cadrage Physical AI pour discuter de l'application de ces concepts IA à votre secteur et vos défis métier.