Aller au contenu
Retour au Glossaire

Déploiement

Batch Inference

Définition

Running a model over a collection of inputs in a batch job rather than responding to each request immediately. It can suit report generation, bulk document classification or periodic scoring. Cost and latency depend on workload, infrastructure and scheduling; compare them with the required real-time service level.

Besoin d'Aide pour Comprendre l'IA?

Réservez un appel de cadrage Physical AI pour discuter de l'application de ces concepts IA à votre secteur et vos défis métier.