Шум квантования — ошибки, возникающие при квантованиисигнала. В зависимости от типа аналого-цифрового преобразования могут возникать из-за округления (до определённого разряда) сигнала или усечения (отбрасывания младших разрядов) сигнала.
Шум квантования можно представить как аддитивный дискретный сигнал <math>e(nT)</math>, учитывающий ошибки квантования. Если <math> d(nT)</math> — входной сигнал квантователя, а <math> F[\,]</math> — его передаточная функция, то имеем следующую линейную модель шума квантования:
<math> e(nT) = F[d(nT)] - d(nT)</math>
Линейная модель используется для аналитического исследования свойств шума квантования.
Детерминированные оценки
Детерминированные оценки позволяют определить абсолютные границы шума квантования в случае равномерного квантования:
где <math>b</math> — число разрядов квантования (сигнала <math>e(nT)</math>),
<math> Q</math> — шаг квантования
<math> m = 2</math> — при округлении
<math> m = 1</math> — при усечении.
Вероятностные оценки
Вероятностные оценки основаны на представлении ошибок квантования (сигнала <math>e(nT) </math>) как случайного шумоподобного процесса. Допущения, вводимые относительно шума квантования:
Последовательность <math>e(nT)</math> является стационарным случайным процессом
Последовательность <math>e(nT)</math> не коррелирована с квантуемым сигналом <math> d(nT) </math>
Любые два отсчёта последовательности <math>e(nT)</math> не коррелированы, то есть шум квантования является процессом типа «белый шум».
