Ga naar inhoud
Terug naar Woordenlijst

Technieken

Quantization

Definitie

A model compression technique that lowers numerical precision, such as representing weights with 8-bit integers instead of 32-bit floating-point values. It can reduce memory use, while speed and quality depend on the model, quantization method, kernels and hardware. The chosen configuration needs evaluation on the intended workload.

Gerelateerde Diensten

Hulp Nodig bij het Begrijpen van AI?

Boek een Physical AI-kennismaking om te bespreken hoe deze AI-concepten op uw branche en uitdagingen van toepassing zijn.