| Перетворення Фур'є | Систематична похибка-M | СКО -s | ||
| 6 біт/1.0 | 7 біт /1.0 | 6 біт/1.0 | 7 біт /1.0 | |
| FFT-256 за основою 2 | -1% | -12% | 2.0% | 0.9% |
| FFT-256 за основою 16 | -0.4% | -3% | 1.2% | 0.6% |
Знак "-" означає, що відновлений сигнал послабляється на М відсотків у порівнянні з вихідним.
Як видно з приведеної таблиці 7-бітне представлення коефіцієнтів для ШПФ за основою 2 вносить
значну систематичну похибку і робить такий алгоритм менш ефективним. Алгоритми ШПФ із основами 16 і 32 дозволяють більш ефективно використовувати наявну розрядну сітку під коефіцієнти W і мають більш високу точність за рахунок у 4-5 разів меншого числа шарів графа, що також знижує додаткові витрати на нормалізацію й округлення. При цьому операція округлення на процесорі NM6403 виконується за допомогою векторного регістра vr [2] разом з основними обчисленнями, не приводячи до додаткових витрат часу. Також є можливість проведення додаткової оптимізації за рахунок сполучення процедури нормалізації (арифметичного зсуву вправо) з останнім етапом обчислення скалярного добутку (рис. 6).