Вхідні і вихідні дані - цілі 32р. комплексні числа, формат збереження наведений на рис.3
Діапазон вхідних даних зазначений у таблиці 3.
Розрядність коефіцієнтів перетворення - 8 біт (два варіанти представлення: 6 і 7 біт на одиницю)
Робота з даними - арифметика з фіксованою крапкою.
Вихідні дані розташовані в правильному порядку.
Таблиця 7.4. Продуктивність функцій прямого і зворотного ШПФ на процесорі NM6403
| Кільк. комплекс. відліків | Без нормалізації | З однією нормалізацією | З двома нормалізациями | ||||||
| Тактів | Час, мс | Діапазон вх.даних | Тактів | Час, мс | Діапазон вх.даних | Тактів | Час, мс | Діапазон вх.даних | |
| 0.092 | ±512 (7bіt) ±2047(6bіt) | 0.1 | ±512 (7bіt) ±2047(6bіt) | 0.11 | ±218 (7bіt) ±218 (6bіt) | ||||
| 0.2 | ±256 (7bіt) ±1023(6bіt) | 0.22 | ±256 (7bіt) ±1023(6bіt) | 0.24 | ±218 (7bіt) ±218 (6bіt) | ||||
| 0.47 | ±128 (7bіt) ±511 (6bіt) | 0.5 | ±128 (7bіt) ±511 (6bіt) | 0.53 | ±217 (7bіt) ±217 (6bіt) | ||||
| 1.2 | ±64 (7bіt) ±255 (6bіt) | 1.25 | ±64 (7bіt) ±255 (6bіt) | 1.3 | ±217 (7bіt) ±217 (6bіt) |
NM6403 cycle tіme=25 ns (40MHz)