Память компьютера представляет собой иерархию запоминающих устройств (ЗУ), которые отличаются друг от друга среднем временем доступа к данным, объемом памяти и стоимостью хранения одного бита. Всю память компьютера можно представить в виде пирамиды.
объем время доступа
| Объем памяти | Время доступа | |
| десятки байт | Регистровая память | 2 – 3 нсек |
| сотни Кбайт | Быстродействующая память SRAM | 5 - 8 нсек |
| сотни Мбайт | Оперативная память DRAM | 10 – 20 нсек |
| десятки Гбайт | Внешняя память | 10 – 50 милисек |
стоимость
Из рисунка видно, что чем больше объем памяти устройства, тем менее быстродействующим оно является.
Кэширование данных (кэш) – это способ совместного функционирования двух типов запоминающих устройств, отличающихся временем доступа к данным. С этой целью выполняется динамическое копирование данных в более «быстрое» ЗУ наиболее часто используемой информации из «медленного» ЗУ, что позволяет, с одной стороны, уменьшить среднее время доступа к данным, с другой стороны, экономить более дорогую быстродействующую память. Кэш – памятью также называют «быстрое « ЗУ.
Кэширование – это универсальный метод ускорения доступа к оперативной памяти, диску и другим видам ЗУ. Для уменьшения среднего времени доступа к ОП в качестве КЭШа используется быстродействующая статическая память. Для ускорения доступа (уменьшения времени доступа) к данным на жестком диске в качестве КЭШа используются буферы ОП.