Под кластерной системой понимается набор компьютеров, используемый в качестве единого вычислительного ресурса. Эти системы являются логическим продолжением систем с раздельной памятью. В этих системах, каждый элемент представляет собой законченную вычислительную машину (в качестве таких машин используются ПК или рабочие станции). Для организации межмашинных связей используют обычную сеть. Для коммуникации используется библиотека MPI.
MPI- программа представляет из себя набор независимых процессов, каждый из которых выполняет свою программу. Каждый процесс работает в отдельном адресном пространстве. Задача распараллеливания алгоритмов и распределения программ между элементами системы ложиться на программиста.
Достоинства системы: стоимость системы при производительности сопоставимой с производительностью суперкомпьютера, сравнительно мала.
Недостатки системы: низкая пропускная способность коммутационной среды.
Одна из первых кластерных систем стоила около 100 000 долларов, а суперкомпьютер с той же производительностью- несколько миллионов.
При создании кластеров используют два подхода:
1. объединение в кластер машин учебного класса; в этом случае каждый компьютер может работать как отдельно, так и в системе.
2. объединение машин, не имеющих индивидуальных органов ввода/вывода, и работающих под управлением отдельного компьютера.