GLOSSARIO // COS'È?

Inference latency

Tempo tra input e output di un modello. Sotto i 100ms = real-time percepito. Spesso gonfiato nei benchmark con batch favorevoli.