La donnée numérique N en entrée d'un CNA ou en sortie d'un CAN est codée en base 2 sur un nombre donné de digits n.
La plus grande valeur numérique que puisse traiter un CNA (ou produire un CAN) est
Nmax=2n-1
Tension pleine échelle - Calibre - Gamme
La tension pleine échelle Up est la différence entre la plus grande et la plus petite valeur de la tension U que peut traiter un CAN, ou fournir un CNA.
L'intervalle entre ces deux valeurs extrêmes est appelé gamme du convertisseur.
En pratique on rencontre deux cas de figure :
La valeur de U peut aller de 0 à Up ; on qualifie le convertisseur de monopolaire, sa gamme est [0;Up] et son calibre est égal à Up
La valeur de U peut aller de-Up/2 à +Up/2 ; on qualifie le convertisseur de bipolaire, sa gamme est [-Up/2;+Up/2] et son calibre est égal à Up/2
Résolution r
La résolution est la plus petite différence de tension que peut détecter le CAN, ou produire le CNA.
Plus r est petit plus la numérisation est fidèle.
Relation entre N et U
Convertisseur monopolaire : U=r.N Convertisseur bipolaire :