Архитектура серверов корпоративных баз данных

Реферат на тему Архитектура серверов корпоративных баз данных Оглавление Введение 1. Системы управления базами данных и серверы баз данных 2. Серверы Escala компании Bull 1. Архитектура PowerScale2. Семейство UNIX-серверов Escala3. Серверы компании Hewlett-Packard 1. Семейство компьютеров Alpha4. Серверы фирмы DEC 1. Семейство компьютеров Alpha5. Отказоустойчивые серверы компании Tandem Computer Inc. ЗаключениеСписок литературы Приложение 1 Введение Появление в 80-х годах персональных компьютеров ПК и локальных сетей ПК самым серьезным образом изменило организацию корпоративных вычислений.

В отличие от традиционной, хорошо управляемой и безопасной среды вычислений предприятия, построенной на базе универсальной вычислительной машины мейнфрейм с подсоединенными к ней терминалами, среда локальных сетей ПК плохо контролируется, плохо управляется и небезопасна.

С другой стороны, расширенные средства сетевой организации делают возможным разделение бизнес-информации внутри групп индивидуальных пользователей и между ними, внутри и вне корпорации и облегчают организацию информационных процессов в масштабе предприятия. Чтобы ликвидировать брешь между отдельными локальными сетями ПК и традиционными средствами вычислений, а также для организации распределенных вычислений в масштабе предприятия появилась модель вычислений на базе рабочих групп.

Как правило, термины серверы рабочих групп и сетевые серверы используются взаимозаменяемо. Сервер рабочей группы может быть сервером, построенным на одном процессоре компании Intel, или суперсервером с несколькими ЦП , подобным изделиям компаний Compaq, HP, IBM и DEC, работающим под управлением операционной системы Windows NT. Это может быть также UNIX-сервер компаний Sun, HP, IBM и DEC. По уровню общесистемной производительности, функциональным возможностям отдельных компонентов, отказоустойчивости, а также в поддержке многопроцессорной обработки, системного администрирования и дисковых массивов большой емкости суперсерверы вышли в настоящее время на один уровень с мейнфреймами и мощными миникомпьютерами.

Современные суперсерверы характеризуются наличием двух или более центральных процессоров RISC, либо CISC многоуровневой шинной архитектурой, в которой высокоскоростная системная шина связывает между собой несколько процессоров и оперативную память, а также множество стандартных шин ввода вывода, размещенных в том же корпусе поддержкой технологии дисковых массивов RAID поддержкой режима симметричной многопроцессорной обработки, которая позволяет распределять задания по нескольким центральным процессорам или режима асимметричной многопроцессорной обработки, которая допускает выделение процессоров для выполнения конкретных задач.

Основу следующего уровня современных информационных систем предприятий и организаций составляют корпоративные серверы различного функционального назначения, построенные на базе операционной системы Unix. Архитектура этих систем варьируется в широких пределах в зависимости от масштаба решаемых задач и размеров предприятия.

Двумя основными проблемами построения вычислительных систем для критически важных приложений, связанных с обработкой транзакций, управлением базами данных и обслуживанием телекоммуникаций, являются обеспечение высокой производительности и продолжительного функционирования систем.

Наиболее эффективный способ достижения заданного уровня производительности - применение параллельных масштабируемых архитектур. Задача обеспечения продолжительного функционирования системы имеет три составляющих надежность, готовность и удобство обслуживания. Все эти три составляющих предполагают, в первую очередь, борьбу с неисправностями системы, порождаемыми отказами и сбоями в ее работе. Эта борьба ведется по всем трем направлениям, которые взаимосвязаны и применяются совместно.

Существует несколько типов систем высокой готовности, отличающиеся своими функциональными возможностями и стоимостью. Наиболее оптимальным по отношению высокая готовность стоимость являются кластерные системы. В данном реферате будут рассмотрены особенности архитектуры RISC процессоров фирм DEC, Hewlett-Packard и Bull и особенности построения на их основе многопроцессорных SMP серверов и кластерных систем. 1.

Системы управления базами данных и серверы баз данных

SMP используется главным образом при работе с большими базами данных, ... Конкуренция за шину снижает эффективность архитектуры с общей памятью ... Поддержка более 8 процессоров предполагает всякие изыски в аппаратной ... Узлом может быть компьютер в кластере, хотя сегодня чаще всего имеют в... Эта технология позволяет множеству процессоров разделять доступ к един...

Серверы Escala компании Bull

Очевидно, что всегда полезно выполнять процесс на одном и том же проце... Архитектура PowerScale автоматически оптимизирует степень расслоения п... Архитектура матричного коммутатора Архитектура коммутатора реализована... Параметры производительности Вслед за установочной фазой транзакции на... Поэтому в дальнейшем какие-либо помехи отсутствуют.

Семейство UNIX-серверов Escala

Семейство серверов Alpha представляет собой полный ряд систем от миним... Средства управления Реализация удаленного управления. Использование кластеров Возможность построения кластерных систем. Имея все преимущества 64-разрядной Alpha-архитектуры, до 6 Гб памяти и... Является синхронной, мультипликсированной 128-битной шиной адреса данн...

Серверы компании Hewlett-Packard

Серверы компании Hewlett-Packard Компания Hewlett-Packard была учреждена в Калифорнии в 1938 году с целью создания электронного тестирующего и измерительного оборудования. Основой разработки современных компьютеров Hewlett-Packard является архитектура PA-RISC. Она была разработана компанией в 1986 году, и с тех пор, благодаря успехам интегральной технологии, прошла несколько стадий своего развития от многокристального до однокристального исполнения.

Архитектура PA-RISC разрабатывалась с учетом возможности построения многопроцессорных систем, которые реализованы в старших моделях серверов.

Как известно, одна из главных причин перехода к RISC - стремление выполнять команду за один такт. Для достижения большей производительности разработчики RISC создают процессоры, выполняющие за один такт несколько команд. Такие процессоры называют суперскалярными. Эти процессоры сложнее - их реализуют, как правило, на нескольких кристаллах, что ведет к ограничению частоты. Hewlett-Packard первой разработала суперскалярный процессор на одном кристалле с высокой тактовой частотой. Для того, чтобы более полно использовать возможности суперскалярных процессоров, в набор PA-RISC включены составные команды, которые выполняют на разных частях кри-сталла сразу несколько операций.

Вследствие этого, PA-RISC выполняет большее число команд за такт, опережая процессоры конкурентов, даже если они обладают большей тактовой частотой. Еще одна особенность PA-RISC - большие внешние кэши Рис. 8 В отличие от некоторых других процессоров, где размер кэша достаточен лишь для быстрого выполнения простых тестов, кэши PA-RISC форсируют работу реальных приложений и служат ключевым отличием от других реализаций RISC. Хранение команд и данных осуществляется в раздельных кэшах, причем процессор соединяется с ними с помощью высокоскоростных 64-битовых шин. Кэш-память реализуется на высокоскоростных кристаллах статической памяти SRAM , синхронизация которых осуществляется непосредственно на тактовой частоте процессора. При тактовой частоте 100 МГц каждый кэш имеет полосу пропускания 800 Мбайт с при выполнении операций считывания и 400 Мбайт с при выполнении операций записи.

Микропроцессор аппаратно поддерживает различный объем кэш-памяти кэш команд может иметь объем от 4 Кбайт до 1 Мбайт, кэш данных - от 4 Кбайт до 2 Мбайт. Чтобы снизить коэффициент промахов применяется механизм хеширования адреса. В обоих кэшах для повышения надежности применяются дополнительные контрольные разряды, причем ошибки кэша команд корректируются аппаратными средствами.

Еще один метод, используемый в RISC-архитектурах для повышения производительности - это конвейер.

Для ускорения выполнения команды ее обработка разбивается на ступени выборка, декодирование, выполнение, обратная запись и т.д. Все ступени конвейера работают одновременно. Наличие конвейера - главный фактор, благодаря которому RISC превосходит CISC. 5-ступенчатый конвейер минимизирует задержки из-за остановов, характерные для суперконвейерных архитектур.

Другими важными особенностями PA-RISC являются Расширенные возможности 64-разрядных вычислений. Встроенная поддержка графики. Набор команд PA-RISC расширен графическими возможностями. Эти команды наряду с огромной производительностью вещественных вычислений позволяют добиться замечательных характеристик графики без помощи графических процессоров. Встроенная поддержка мультимедиа. Первым процессором с поддержкой мультимедиа был PA-7100LC. Он мог декодировать видео MPEG-1 со скоростью 30 кадров в секунду с полным стереозвуком.

Благодаря встроенной поддержке типов данных мультимедиа в базовой архитектуре, Hewlett-Packard в состоянии обеспечить очень высокую скорость отображения без дополнительных затрат. Рис. 8. Блок-схема взаимодействия процессора и внешних кэшов Процессор подсоединяется к памяти и подсистеме ввода вывода посредством синхронной шины. Процессор может работать с тремя разными отношениями внутренней и внешней тактовой частоты в зависимости от частоты внешней шины 1 1, 3 2 и 2 1. Это позволяет использовать в системах разные по скорости микросхемы памяти.

Процессор PA-8xxx вобрал в себя все известные методы ускорения выполнения команд. В его основе лежит концепция интеллектуального выполнения, которая базируется на принципе внеочередного выполнения команд. Это свойство позволяет PA-8000 достигать пиковой суперскалярной производительности благодаря широкому использованию механизмов автоматического разрешения конфликтов по данным и управлению аппаратными средствами.

Эти средства хорошо дополняют другие архитектурные компоненты, заложенные в структуру кристалла большое число исполнительных функциональных устройств, средства прогнозирования направления переходов и выполнения команд по предположению, оптимизированная организация кэш-памяти и высокопроизводительный шинный интерфейс. PA-8500 Рис. 9. является 4-х канальным суперскалярным процессором, выполняющим 4 операции за такт. PA-8500 имеет следующие архитектурные особенности Наибольший размер кэша первого уровня на процессор 1 МБ - данные, 0.5 МБ - инструкции. По два 64-разрядных модуля с плавающей точкой для функций загрузки выгрузки, умножения сложения, деления извлечения квадратного корня, целочисленных, сдвиговых логических функций каждый - всего 10 функциональных модулей.

Буфер предсказания ветвления для 56 инструкций instruction reorder buffer - IRB Спекулятивное выполнение Статическое и динамическое предсказание ветвлений Перечисленные особенности рассматриваются ниже более подробно.

PA-8500 реализован в 0.25 микронной технологии. Новая технология позволяет разместить на чипе большой кэш первого уровня, что дает возможность повысить частоту без необходимости наличия связанных кэшей второго уровня. Кэш второго уровня имеет цикл медленнее цикла кэша первого уровня, а также обладает более низкой пропускной способностью. Задержка, вызванная доступом к более медленному кэшу второго уровня, сочетается с необходимостью извлечь полную строку кэша для заполнения кэша первого уровня, а не просто заполнить его текущими данными.

Большой кэш первого уровня поможет избежать ограничений многоуровневой структуры кэша, так как направляет потоки инструкций и данных непосредственно в хранилище данных. Рис.9. Архитектура процессора PA-8500 Процессор PA-8500 предоставляет доступ к большему объему данных за два такта из своего 0.5MB кэша инструкций и 1MB кэша данных, чем многие системы могут предоставить за 10 и более тактов из кэша второго уровня.

Механизм установки очередности инструкций поддерживает постоянную загрузку функциональных модулей процессора, предотвращая их простой, как это обычно происходит в традиционных конвеерных процессорах. Одной из задач при разработке PA-8500 было создание чипового кэша, который бы мог уместиться в выделенную зону чипа и, тем не менее, поддерживал бы высокий уровень установки очередности инструкций. Такое решение требует, чтобы кэш данных поддерживал выполнение двух одновременных операций памяти при поддержке двухтактного доступа.

Задача была решена использованием двухбанковой системы, разработанной для внекристального кэша данных. Система реализована в виде простого однопортового RAM, что помогло сохранить пространство на чипе. Поскольку каждый запрос имеет отношение только к половине кэша, физическая длина доступа была уменьшена, что позволило достичь меньшего времени доступа. Все данные, хранящиеся в кэше PA-8500, защищены от возникновения однобитовых ошибок.

Необходимо принять все меры к сохранению целостности данных. Для кэша инструкций достаточно простой четности, поскольку его содержимое всегда безошибочно. Всякий раз, когда доступ к инструкциям сигнализирует об ошибке, доступ обрабатывается как неудачное обращение в кэш. Строки кэша с нарушенными данными аннулируются и данные поступают из памяти заново. Больше усилий необходимо предпринять для обеспечения защиты кэша данных, потому как коррекция необходима когда неверная строка кэша нарушается.

PA-8500 предоставляет 6 лишних битов на слово для возможности коррекции однобитовой ошибки и защиты кэша данных. Однако, коррекция происходит не прямо во время доступа к кэшу, так как это бы увеличило бы время задержки доступа. Вместо этого, ошибки распознаются параллельной логикой коррекции ошибок. Если ошибка распознана, поврежденные данные выбрасываются из кэша. Если строка неверна, коррекция ошибки происходит на пути копирования. Если строка верна, она аннулируется, а доступ производится еще раз, что заставляет строку переместиться в кэш с исправленными данными.

При наличии большого чипового кэша первого уровня в сочетании с мощным механизмом предсказания ветвления, PA-8500 не нуждается в дорогом, присоединенном напрямую к процессору кэше второго уровня. Что, в свою очередь, устраняет необходимость в интегрированном контроллере кэша второго уровня. В дополнение к этому, нет необходимости в большом количестве выводов процессора, обслуживающих соединения с внешними RAM. Процессор PA-8500 обладает раздельной архитектурой, в которой логика интерпретирования инструкций не связана с конвеерной логикой функциональных модулей.

Подобная архитектура позволяет процессору частично интерпретировать инструкции задолго до действительного исполнения инструкций функциональным модулем модулями. Интерпретированные инструкции хранятся в очереди внутри чипа. Одновременно PA-8500 может таким образом обрабатывать до 56 инструкций.

Процессор обрабатывает до 4 инструкций за такт. Для поддержания суперскалярной производительности на максимально возможном уровне процессор PA-8500 содержит в себе десять функциональных модулей два независимых модуля для операций с плавающей точкой, два независимых функциональных модуля деления и извлечения квадратного корня, два независимых 64-разрядных целочисленных арифметических логических модуля ALU , два модуля сдвиговых логических функций хотя эти модули разделены с целочисленными ALU, за такт ими выполняются лишь две из возможных четырех инструкций, и два независимых модуля загрузки выгрузки.

Что касается важных функциональных модулей для операций с плавающей точкой, каждый из них способен выполнить одну инструкцию умножения сложения за такт. Таким образом, пиковая производительность операций с плавающей точкой в четыре раза превышает тактовую частоту. Важно отметить, что инструкция умножения сложения является комбинированной то есть для выполнения одной инструкции необходимо выполнение двух операций.

Это не просто повышает производительность, выполнение комбинации умножения сложения требует одной инструкции в IRB, что еще более повышает эффективность процессора. Инструкция умножения сложения имеет трех тактовую задержку, но при наличии конвеерности, результат выдается каждый такт. Для того, чтобы использовать весь набор функциональных модулей, процессор оснащен 56-командным буфером предсказания ветвлений IRB - instruction reorder buffer двух портовым кэшем данных и способностью выбирать четыре инструкции за такт из большого кэша инструкций. Процессор может хранить до 56 инструкций в буфере и выполнять их в тот момент, когда необходимые данные и функциональный модуль модули станут доступными.

Взаимосвязь данных и инструкций, хранящихся в буферах известна, инструкции поступают в функциональные модули точно в момент, когда данные и функциональные модули будут доступны. Могучим оружием PA-8500 является его способность производить спекулятивное выполнение, которое заставляет процессор отгадывать путь выполнения и выполнять инструкции по этому пути. Если догадка неверна, спекулятивно выполненные инструкции сбрасываются.

Спекулятивное выполнение поддержано интеллектуальным механизмом предсказания ветвлений, базирующемся на 2,048-командном кэше истории ветвления. Предсказание ветвлений определяет порядок выполнения инструкций то есть, какая инструкция, по его мнению, будет выполнена и эти инструкции спекулятивно выполняются.

Если ответвление предсказано неправильно, эти инструкции просто сбрасываются, в случае если они еще не удалены. Таблица истории ветвлений BHT - branch history table в PA-8500 является стандартной матрицей двухбитных ячеек, но информация, хранимая в них, не является информацией о направлении ответвления выбранного или невыбранного. Модернизированный BHT позволяет PA-8500 сочетать возможности статического и динамического методов предсказания ветвлений в одной аппаратной структуре, что не требует наличия двух или трех аппаратных матриц, как в некоторых других методах предсказания ветвлений.

Конструкция процессора обеспечивает реализацию двух способов построения многопроцессорных систем. При первом способе каждый процессор подсоединяется к интерфейсному кристаллу, который наблюдает за всеми транзакциями на шине основной памяти. В такой системе все функции по поддержанию когерентного состояния кэш-памяти возложены на интерфейсный кристалл, который посылает процессору соответствующие транзакции.

Кэш данных построен на принципах отложенного обратного копирования и для каждого блока кэш-памяти поддерживаются биты состояния частный private, грязный dirty и достоверный valid, значения которых меняются в соответствии с транзакциями, которые выдает или принимает процессор. Второй способ организации многопроцессорной системы позволяет объединить два процессора и контроллер памяти и ввода-вывода на одной и той же локальной шине памяти. В такой конфигурации не требуется дополнительных интерфейсных кристаллов и она совместима с существующей системой памяти.

Когерентность кэш-памяти обеспечивается наблюдением за локальной шиной памяти. Пересылки строк между кэшами выполняются без участия контроллера памяти и ввода-вывода. Такая конфигурация обеспечивает возможность построения очень дешевых высокопроизводительных многопроцессорных систем. Серверы HP9000 класса DВ секторе рынка серверов рабочих групп компания HP представлена довольно широкой серией систем HP9000 класса D. Это серия систем с относительно низкой стоимостью, которая конкурирует с серверами, построенными на базе ПК. 1-2-процессорные серверы начального уровня на процессорах РА-7300LC и РА-8000. Изначально позиционировались как серверы для малого бизнеса, однако сейчас производительность новых старших моделей этого класса вполне достаточна для обслуживания очень больших организаций несколько сотен активных пользователей СУБД . При этом стоимость их по-прежнему соответствует стоимости серверов нижнего уровня.

Работают под управлением операционной системы HP-UX. Серверы HP9000 класса K1-6-процессорные серверы среднего уровня на процессорах РА-8000 и РА8200. Модель К570 с шестью процессорами РА-8200 200MHz является рекордсменом по скорости обработки транзакций в классе средних серверов - 21.358tpm ближайший конкурент - AlphaServer 4100 с четырьмя процессорами DECchip 21164 600MHz - показал 15.100tpm. Официальные данные по быстродействию вышедших в феврале моделей K380 K580 еще не опубликованы, однако, по оценкам НР, их транзакционная производительность на 15-20 выше, чем у К570. Серверы способны обслужить до тысячи активных пользователей СУБД, а значит, перекрывают потребности подавляющего большинства организаций. Архитектуры D- и K-Class схожи процессоры, память и контроллеры ввода вывода общаются через внутреннюю шину с производительностью 960MB sec. Различается максимальное число процессоров, а также интерфейсы для подключения плат расширения в D-Class используются шины EISA и HP-HSC High Speed Connect, пиковая скорость 160MB sec, а в K-Class - шины HP-HSC и HP-PB Precision Bus, пиковая скорость 32 MB sec. Стандартные интерфейсы серверов включают 2 x RS-232 для консоли и UPS , Centronics, Ethernet, SCSI-2 и или F W SCSI-2, многие модели - также порт удаленного управления со встроенным модемом.

Платы расширения включают F W SCSI-2, Fibre Channel, Ethernet, Token-Ring, FDDI, 100VG, 100Base-T, ATM, ISDN, X.25, SNA, мультиплексоры на различное число портов RS-232. В конструкции сервера предусмотрены 4 отсека для установки дисковых накопителей, а с помощью специальных стоек кабинетов расширения емкость дисковой памяти системы может быть доведена до 8.3 Тбайт. Основные параметры серверов HP9000 класса К представлены в таблице 3. Таблица 3. Основные характеристики серверов HP 9000 класса K МОДЕЛЬ K210 K220 K260 K420 K450 K460 ЦП Тип процессора PA7200 PA7200 PA8000 PA7200 PA8000 PA8000 Тактовая частота МГц 120 100 D210 120 180 120 160 180 Число процессоров 1-4 1-4 1-4 1-4 1-4 1-4 Пропускная способность системной шины Мб сек 960 960 960 960 960 960 Размер кэша Кб команд данных 256 256 1024 1024 1024 1024 1024 1024 1024 1024 1024 1024 ПАМЯТЬ Минимальный объем Мб 64 128 128 128 128 128 Максимальный объем Гб 2.0 2.0 2.0 3.0 4.0 4.0 ВВОД ВЫВОД Количество слотов HP-HSC 1 1 1 5 5 5 Количество слотов HP-PB 4 4 4 8 8 8 Максимальная пропускная способность подсистемы в в Мб сек 288 288 288 288 288 288 Количество отсеков для дисков Fast Wide SCSI-2 4 4 4 4 4 4 Максимальная емкость дисковой памяти Tб 3.8 3.8 3.8 8.3 8.3 8.3 Количество последовательных портов 2 2 2 2 2 2 Количество параллельных портов 1 1 1 1 1 1 Сетевые интерфейсы Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Симметричные многопроцессорные серверы HP9000 класса ТСамым мощным и расширяемым рядом корпоративных серверов компании HP на базе ОС UNIX является семейство HP9000 класса T. Это следующее поколение серверов, которое было разработано компанией вслед за HP9000 model 870. В настоящее время объявлены 12-процессорные системы Т600 на базе процессора PA-8000, поставки которых должны начаться в 1997 году. Существующие системы Т500 и Т520 допускают замену старых процессоров на процессоры PA-8000. Характерной особенностью архитектуры серверов класса Т является большая емкость кэш-памяти команд 1 Мбайт и данных 1 Мбайт у каждого процессора системы.

Серверы класса T используют 64-битовую шину с расщеплением транзакций, которая поддерживает до 14 процессоров, работающих на частоте 120 МГц. Эта шина обеспечивает в установившемся режиме пропускную способность 768 Мбайт с при пиковой производительности 960 Мбайт с. Серверы класса T могут поддерживать до 8 каналов HP-PB HP Precision Bus, работающих со скоростью 32 Мбайт с, однако в стойке основной системы поддерживается только один канал HP-PB. Для обеспечения полной конфигурации подсистемы ввода вывода необходима установка 7 стоек расширения, занимающих достаточно большую площадь.

Общая пиковая полоса пропускания подсистемы в в в полностью сконфигурированной 8-стоечной системе составляет 256 Мбайт с, что меньше полосы пропускания подсистемы в в серверов класса К. Однако максимальная емкость дисковой памяти при использовании RAID-массивов достигает 20 Тбайт. Указанная двухярусная шинная структура сервера обеспечивает оптимальный баланс между требованиями процессоров и подсистемы ввода вывода, гарантируя высокую пропускную способность системы даже при тяжелой рабочей нагрузке.

Доступ процессоров к основной памяти осуществляется посредством мощной системной шины процессор-память, поддерживающей когерентное состояние кэш-памятей всей системы.

В будущих системах планируется 4-кратное увеличение пропускной способности подсистемы ввода вывода. 4. Отказоустойчивые серверы компании Tandem Computer Inc. Надежные вычислительные машины являются ключевыми элементами для построения наиболее ответственных прикладных систем в сфере розничной торговли, финансов и телефонной коммутации.

На современном этапе развития информационных технологий подобные приложения предъявляют широкий диапазон требований к масштабируемости, поддержке открытых стандартов и обеспечению отказоустойчивости систем.

Одной из наиболее известных в мире фирм, работающих в данной области, является компания Tandem.

В настоящее время для удовлетворения различных требований рынка надежных вычислений она поставляет две различные линии своих изделий системы Tandem NonStop и системы Tandem Integrity.

Системы Tandem NonStop, первые модели которых появились еще в 1976 году, базируются на реализации многопроцессорной обработки и модели распределенной памяти.

Для обеспечения восстановления после сбоев аппаратуры и ошибок программного обеспечения эти системы используют механизмы передачи сообщений между процессными парами.

База данных NonStop SQL, в основе архитектуры которой лежит модель системы без разделения ресурсов shared-nothing, показала линейную масштабируемость в приложениях обработки транзакций на конфигурациях, содержащих более 100 процессоров.

Первоначально системы NonStop были нацелены на создание приложений оперативной обработки транзакций OLTP , но в настоящее время интенсивно используются и в других ответственных приложениях системах передачи сообщений и системах поддержки принятия решений. В 1990 году компания Tandem объявила о начале выпуска систем Integrity.

Для маскирования ошибок в работе систем Integrity используются методы аппаратной избыточности трехкратное резервирование, обеспечивающие продолжение непрерывной работы в условиях сбоев без воздействия на приложения. Хотя указанные две линии изделий компании имеют отличия, они удовлетворяют целому ряду общих требований и используют многие общие технологии и компоненты.

Все системы Tandem гарантируют целостность данных и устойчивость к сбоям, и кроме того, обеспечивают масштабируемость и возможность производить модернизацию системы в режиме online.

Обе линии изделий NonStop и Integrity позволяют выполнять техническое обслуживание систем в режиме online установку и замену плат, источников питания и вентиляторов без остановки системы и выключения питания. Применяемые конструкции допускают установку обеих систем в офисных помещениях, стандартных машинных залах вычислительных центров или на телефонных станциях. В системах используются много общих компонентов таких, как накопители на дисках, элементы памяти и микропроцессоры.

В 1991 году компания Tandem начала программу объединения лучших свойств обеих систем в единой линии изделий. Основой для объединения архитектур послужила разработка главного транспортного средства - системной сети ServerNet. ServerNet представляет собой многоступенчатую пакетную сеть, используемую как для организации межпроцессорных связей, так и для реализации связей с устройствами ввода вывода. ServerNet обеспечивает эффективные средства для обнаружения и изоляции неисправностей, а также реализует прямую поддержку альтернативных каналов передачи данных для обеспечения непрерывной работы системы при наличии отказов сети. Разработка этой сети предоставляет новые возможности развития обеих линий изделий, включая большую масштабируемость, интерфейсы с открытыми стандартами шин и улучшенную поддержку мультимедийных приложений.

Архитектура систем NonStopНа Рис. 10 показана базовая архитектура систем NonStop. Эта архитектура предполагает объединение двух или более ЦП при помощи дублированной высокоскоростной межпроцессорной шины. Каждый процессор имеет один или несколько каналов в в, соединяющих его с двухпортовыми дисковыми контроллерами и коммуникационными адаптерами.

В действительности в первых пяти поколениях систем NonStop NonStop I, II, TXP, CLX и VLX было реализовано только по одному каналу в в на процессор, а пара разделяемых шин обеспечивала объединение до 16 процессоров. В более поздних системах NonStop Cyclone и Himalaya K10000 20000 для увеличения пропускной способности системы межсоединений была применена сегментация межпроцессорной шины на базе четырехпроцессорных секций.

Секции могут объединяться с помощью оптоволоконных линий связи в узлы до четырех секций в узле. Системы NonStop II, TXP, VLX и Cyclone поддерживают также возможность построения оптоволоконного кольца, которое позволяет объединить между собой до 14 узлов и обеспечивает быстрый обмен данными внутри домена, состоящего из 224 процессоров.

В системе Cyclone к каждому процессору могут подсоединяться несколько каналов в в, причем каждые четыре канала управляются своей парой контроллеров прямого доступа к памяти. Рис. 10. Архитектура NonStop После разработки и успешных испытаний системы Cyclone компания Tandem перешла на применение в своих изделиях RISC процессоров компании MIPS вместо использовавшихся ранее заказных CISC процессоров. В системах CLX R и К200 используются процессоры R3000, а в системах Himalaya K10000, K20000 и K2000 - процессоры R4400. Одновременно с объявлением в 1993 году о начале поставок нового семейства систем Himalaya компания анонсировала также оптоволоконную сеть межпроцессорного обмена TorusNet, предназначенную для построения крупномасштабных кластеров. TorusNet обеспечивает соединение четырехпроцессорных секций с помощью избыточной сети с топологией двухмерного тора. Все аппаратные компоненты систем NonStop построены на основе принципа быстрого проявления неисправности fail fast disign, в соответствии с которым каждый компонент должен либо функционировать правильно, либо немедленно останавливаться.

В более ранних системах Tandem реализация этого принципа широко опиралась на использование методов проверки четности, избыточного кодирования или проверки допустимости состояния при выполнении каждой логической функции.

Современные конструкции для обнаружения ошибок в сложной логике полагаются главным образом на методы дублирования и сравнения.

Все системы, имеющие ЦП на базе микропроцессоров, для гарантии целостности данных и быстрого обнаружения неисправностей выполняют сравнение выходов дублированных и взаимно синхронизированных микропроцессоров. В системах NonStop ответственность за восстановление после обнаружения неисправности в аппаратуре возлагается на программное обеспечение. Операционная система NonStop Kernel систем NonStop непрерывно развивалась и к настоящему времени превратилась из патентованной фирменной операционной системы в систему, которая обеспечивает полностью открытые интерфейсы, построенные на основе промышленных стандартов.

Для поддержки устойчивости критически важных процессов в NonStop Kernel реализованы низкоуровневые механизмы контрольных точек, а также специальный слой программных средств, на котором строится как патентованная среда Guardian, так и открытая среда Posix-XPG 4. Архитектура систем IntegrityОсновной задачей компании Tandem при разработке систем семейства Integrity было обеспечение устойчивости к одиночным отказам аппаратуры при соблюдении 100 переносимости стандартных UNIX-приложений.

Для маскирования аппаратных неисправностей в системах Integrity используется тройное модульное резервирование TMR - triple-modular redundancy в процессоре, кэш-памяти и основной памяти. Три процессора выполняют одинаковые потоки команд, но работают с независимой синхронизацией. Процессоры синхронизируются во время обработки обращений к глобальной памяти и при обслуживании внешних прерываний.

Все обращения к глобальной памяти с выходов резервируемых процессоров поступают через схемы голосования в пару контроллеров TMR. Схемы голосования на основе сравнения обращений между собой обнаруживают возможные неисправности процессоров и посылают достоверные запросы в остальную часть системы. Для обнаружения неисправностей в конструкциях контроллера TMR и процессора в в используются средства самоконтроля. Каждый периферийный контроллер содержит стандартную плату VME, которая через специальную плату адаптера подсоединяется к паре шин в в, защищенных четностью.

Плата адаптера позволяет осуществлять коммутацию контроллера с двумя процессорами в в. В системах Integrity реализация платы основного процессора не требует сложной логики самоконтроля. Однако это делает ее конструкцию отличной от конструкции процессорной платы систем NonStop, хотя в обеих используются одни и те же микропроцессоры. Архитектура новых систем объединяет требования базовой конструкции Integrity при сохранении совместимости с требованиями систем NonStop. Архитектура системы на базе ServerNetНовая системная архитектура, построенная на базе ServerNet, объединяет свойства систем NonStop и Integrity. Она решает общую задачу построения отказоустойчивых систем различного масштаба путем реализации гибких методов соединения стандартных функциональных блоков модулей ЦП памяти, подсистем внешней памяти и коммуникационных адаптеров. Рис. 11. Архитектура системы на базе ServerNet. На Рис. 11. показана архитектура типичной системы, построенной на базе ServerNet. Эта система состоит из нескольких процессорных узлов и узлов ввода вывода, объединенных друг с другом системной сетью ServerNet. Базовым элементом системной сети ServerNet является маршрутизатор, выполненный в виде отдельной заказной СБИС. Для обеспечения отказоустойчивости предполагается возможность построения двух независимых подсетей ServerNet X и Y. В типовой конфигурации системы большинство ее узлов имеют двухпортовые интерфейсы, обеспечивающие подсоединение каждого узла к этим независимым подсетям.

Одной из дополнительных возможностей новой архитектуры является наличие специальной шины когерентности, допускающей подключение до четырех ЦП. Эта шина обеспечивает согласованное состояние общей для нескольких процессорных узлов памяти и их кэшей при выполнении программ, разработанных в расчете на мультипроцессорную обработку в системе с разделяемой общей памятью.

При работе под управлением операционных систем, поддерживающих отказоустойчивость программными средствами подобных NonStop Kernel, процессорные узлы выполняют независимые потоки команд, все пересылки данных осуществляются ЦП по сети ServerNet. Как уже отмечалось, для обеспечения отказоустойчивости в системе Integrity требуются три процессорных кристалла и три массива микросхем памяти.

Новая архитектура требует четырех процессорных кристаллов два на модуль ЦП и двух массивов микросхем памяти.

Стоимость реализации этих двух подходов существенно зависит от размера памяти.

Для типовых систем оба метода имеют сравнимую стоимость. ServerNetServerNet представляет собой быструю, масштабируемую, надежную системную сеть, обеспечивающую гибкость соединения большого числа ЦП и периферийных устройств в в между собой. Главными свойствами этой сети коммутации пакетов являются малая задержка и высокая надежность передачи данных. Для уменьшения задержки в сети применяется метод червячной маршрутизации, не требующий приема всего пакета до его отсылки к следующему приемнику.

Физический уровень ServerNet образуют независимые каналы приема и передачи, каждый из которых имеет 9-битовое поле команд данных и сигнал синхронизации. Поле команд данных обеспечивает кодирование 256 символов данных и до 20 символов команд. Символы команд используются для управления уровнем звена, инициализации и сигнализации об ошибках. Кодирование в одних и тех же линиях команд и данных сокращает количество контактов и упрощает обнаружение ошибок в логике управления.

Система использует ServerNet для организации связей ЦП-ЦП, ЦП-В В и В В-В В. Пересылки между микропроцессором и памятью для каждого узла ЦП остаются локальными. Данные в сети ServerNet пересылаются со скоростью 50 Мбайт в секунду. Такая скорость передачи данных была выбрана исходя из того, чтобы превзойти потребности существующих периферийных устройств при соблюдении низких цен. В будущих поколениях ServerNet производительность линий связи будет увеличиваться по мере необходимости.

В настоящее время максимальная длина линии связи ServerNet ограничена 30 м. В будущих адаптерах предполагается увеличение расстояния между узлами ServerNet с помощью последовательных оптоволоконных линий связи. Предполагается, что этот переход будет относительно простым, поскольку все функции управления используют одни и те же линии команд данных. Все транзакции по сети ServerNet происходят в два этапа выполнение запроса и ожидание соответствующего ответа, который должен вернуться до истечения заданного интервала времени счетчика таймаута. Все узлы ServerNet поддерживают возможность выдачи несколько исходящих запросов в другие узлы. В СБИС маршрутизатора ServerNet реализован матричный переключатель размерностью 6х6. Решение о направлении маршрутизации принимается на основе анализа идентификатора приемника из заголовка пакета.

В состав маршрутизаторов входят входные буфера FIFO, логика арбитража и управления потоком данных, реализованная с помощью ЗУПВ таблица маршрутизации и матричный переключатель Рис. 12 Инициализация и реконфигурация сети выполняются программными средствами путем загрузки соответствующих таблиц маршрутизации.

Рис. 12. СБИС 6-портового маршрутизатора ServerNet. Процессорный модульОдним из базовых элементов системы является процессорный модуль ЦП , блок-схема которого показана на Рис. 13. В ЦП, построенном на принципах быстрого проявления неисправностей, имеются два порта ServerNet, обеспечивающие его соединение через системную сеть с другими ЦП и устройствами в в. Для реализации механизмов разделяемой общей памяти несколько ЦП могут объединяться друг с другом с помощью шины когерентности.

Рис. 13. Блок-схема ЦП. В состав ЦП входят два микропроцессора, каждый из которых имеет независимый вторичный кэш. Каждый микропроцессор подсоединяется к шине памяти с помощью СБИС процессорного интерфейса. При выполнении обращений к памяти эти СБИС сравнивают выходы обоих микропроцессоров для обнаружения всех возможных ошибок микропроцессора и кэша. Память ЦП защищена кодом ECC, который обеспечивает коррекцию всех одиночных ошибок и обнаружение любых ошибок в отдельных микросхемах ДЗУПВ или адресных линиях.

Массив микросхем памяти соединяется с шиной памяти ЦП через пару СБИС контроллеров памяти. Эти СБИС во время обращений к памяти взаимно проверяют выходы друг друга. ЦП могут иметь прямой доступ к памяти других ЦП с помощью дополнительной шины когерентности.

Эта шина обеспечивает аппаратную поддержку стандартных приложений UNIX или Windows NT, которые используют симметричную мультипроцессорную обработку SMP . Каждый ЦП подсоединяется к шине с помощью пары самоконтролирующихся СБИС интерфейса когерентности. Эти СБИС обеспечивают кэш-когерентный доступ к общей памяти используя дублированную память тегов и стандартный протокол аннулирования блоков кэш-памяти. Они обеспечивают также когерентность кэш-памяти при выполнении обращений к памяти со стороны В В. Все передачи данных по шине когерентности защищены кодом ECC. Проверка синдрома ECC для данных, пересылаемых по шине, и сравнение выходов СБИС позволяет обнаруживать сбои шины или СБИС интерфейса.

СБИС процессорного интерфейса ЦП реализуют два порта ServerNet. Линии приема данных обоих портов ServerNet подсоединяются к обеим СБИС процессорного интерфейса. Каждая СБИС формирует данные для передачи по обоим портам ServerNet, но реально данные передаются только из одного порта. Вторая СБИС принимает данные, передаваемые другой СБИС, сравнивает полученное значение со значением, которое она сформировала сама, и сигнализирует об ошибке при любом рассогласовании данных.

Организация ввода выводаНовая система в в обеспечивает практически неограниченные возможности масштабирования по числу объединяемых узлов и пропускной способности сети. Она эффективно поддерживает модель распределенных вычислений разрешая любому процессору обращаться к любому контроллеру в в и допуская реализацию прямых связей контроллер-контроллер.

Дуплексная работаАппаратная отказоустойчивая система реализуется с помощью дуплексной пары, которая создается путем соответствующего конфигурирования двух процессорных модулей. Идентичное состояние памяти и кэшей в этих двух модулях поддерживается благодаря выполнению на обоих ЦП одного и того же программного кода с теми же самыми данными, а также поступлению в память обоих ЦП всего потока ввода. Оба ЦП генерируют идентичные исходящие потоки вывода.

Один из этих потоков выбирается маршрутизаторами для пересылки в контроллеры в в или другие процессоры. Модули ЦП имеют развитые средства обнаружения неисправностей. ЦП останавливается при обнаружении его схемами контроля любой ошибки. Остановка ЦП приводит к тому, что по обоим его портам ServerNet будет передана запрещенная кодовая комбинация. В результате маршрутизатор может определить неисправный ЦП основополагающим правилом системы установлено, что все ошибки ЦП должны приводить к передачам по ServerNet запрещенных кодовых комбинаций. Когда маршрутизатор, подсоединенный к дуплексному ЦП, обнаруживает ошибку, он начинает выполнение протокола восстановления.

Этот протокол реализован полностью аппаратно без привлечения программных средств. При этом один из ЦП исключается из работы, а другой свою работу продолжит. Протокол гарантирует, что исправный ЦП останется работать. Однако существуют случаи, когда в исключенном ЦП неисправности отсутствуют. Например, к исключению ЦП из работы могут привести неисправности в одном из маршрутизаторов или в одной из линий связи ServerNet. В этих случаях система обслуживания может исключить из работы неисправный маршрутизатор, а исключенный ЦП перевести в состояние online.

Если при пересылке пакета из ЦП маршрутизатор обнаруживает неисправность линии связи ServerNet, он помечает пакет как недостоверный. Любой узел ServerNet, который получит этот пакет, будет его игнорировать. Это означает, что неисправность в ЦП, маршрутизаторе или линии связи может привести к потере одного или нескольких пакетов.

При нормальной дуплексной работе только один из двух маршрутизаторов дуплексных процессоров пересылает пакеты, поступающие из каждого ЦП. Это ограничивает потерю пакетов пределами одной подсети ServerNet. Интерфейсные кристаллы обнаруживают потерю пакетов ServerNet с помощью средств временного контроля. Программное обеспечение ввода вывода выполняет восстановление путем повторной передачи данных по альтернативному пути. Возможности масштабирования системыServerNet обеспечивает широкие возможности для масштабирования системы.

Обычно расширение выполняется с помощью встроенных кабельных соединений, а также установки в гнезда расширения ServerNet плат маршрутизаторов. Кроме того, добавление каждого ЦП обеспечивает увеличение числа линий связи ServerNet и эффективно расширяет общую пропускную способность в в системы. В отличие от других массивно-параллельных архитектур сети ServerNet не ограничены только регулярными топологиями типа гиперкубов или торов.

Сеть ServerNet позволяет увеличить число линий связи в любом месте, где требуется дополнительная пропускная способность. Приложения с умеренными требованиями к системе межсоединений могут довольствоваться минимальным количеством связей, а следовательно, использовать достаточно дешевую сеть, в то время как приложения с высокой интенсивностью обработки данных могут рассчитывать на организацию сети с большей связностью.

В настоящее время в области масштабируемых распределенных вычислений начали широко использоваться также стандартные системы UNIX. В ряде научных приложениях кластеры рабочих станций начали заменять суперкомпьютеры. Предполагается, что эта тенденция станет главной движущей силой для усиленной разработки приложений и операционной среды распределенных вычислений. Система обслуживанияОсновные функции системы обслуживания включают инсталляцию системы, формирование сообщений об ошибках, диагностику и управление средствами контроля питающих напряжений и температурных режимов работы.

Системой обслуживания управляют два сервисных процессора SP , которые размещаются в каждой стойке и работают как специализированные контроллеры в в ServerNet. SP, размещенные в разных стойках, также связаны друг с другом посредством ServerNet. Система обслуживания использует специальную систему независимых шин. Эти шины базируются на двух стандартных для промышленности интерфейсах SPI Serial Peripheral Interconnect компании Motorola и систему сканирования в стандарте IEEE 1149.1 JTAG. SPI используется в качестве недорогой последовательной шины в в для связи со всеми средствами контроля и управления состоянием окружающей среды.

Система обслуживания использует средства сканирования для управления, инициализации, тестирования и отображения работы всех СБИС. Применяемое Tandem расширение к стандарту IEEE 1149.1, обеспечивает доступ к регистрам СБИС. Работа средств сканирования никак не затрагивает нормальную работу СБИС. Этот универсальный механизм обеспечивает средство для инициализации СБИС, определения топологии ServerNet и передачи сообщений об ошибках.

Первые системы Tandem на базе технологии ServerNetСтруктурная схема одного из базовых вариантов сервера дана на Рис. 14. Можно выделить три главные подсистемы процессорную подсистему, подсистему в в и подсистему внешней памяти. Процессорная подсистема строится на базе системных плат SPU , каждая из которых включает по два микропроцессора с памятью и логикой сравнения, связанные дублированными каналами с подсистемой в в. В качестве микропроцессоров применяются процессоры MIPS R4400 с кэш-памятью первого уровня емкостью 32 Кбайт 16 Кбайт - кэш команд и 16 Кбайт - кэш данных, работающие на тактовой частоте 200 МГц. Объем кэш-памяти второго уровня составляет 1 Мбайт процессор.

Объем основной памяти системы может достигать 1 Гбайт в четырехпроцессорной конфигурации. Подсистема в в ServerNet создает отказоустойчивую магистраль передачи данных между SPU и контроллерами периферийных устройств и коммуникационными адаптерами.

Отказоустойчивость обеспечивается благодаря использованию двух независимых подсетей Servernet. В составе каждого сервера имеется многофункциональный контроллер SSC Standard System Controller. SSC обеспечивает интерфейс ServerNet с контроллерами в в, контроллерами SCSI-2 для внутренних устройств массовой памяти, сервисным процессором, а также последовательными и сетевыми интерфейсами для поддержки средств диагностики и консоли.

Пара контроллеров SSC обеспечивают отказоустойчивый доступ к устройствам массовой памяти. Каждый контроллер SSC содержит пару интерфейсов шины SCSI-2, которые соединены с другим контроллером SSC и обеспечивают два независимых пути доступа ко всем внутренним дисковым и ленточным накопителям. Система поддерживает зеркалирование дисков для обеспечения непрерывного доступа к хранящимся на дисках данным. В серверы могут также устанавливаться дополнительные контроллеры Ethernet, асинхронного и синхронного интерфейсов, каждый из которых имеет по два порта для обеспечения доступа к процессорам через две независимых подсети Servernet.

Контроллеры SSC и дополнительные контроллеры в в могут заменяться в процессе работы системы в режиме горячей замены. Основные характеристики серверов S4000-CM S4000-CO представлены в Таблице Рис. 14. Структурная схема сервера семейства Integrity S4000 . Таблица 4. Основные параметры моделей CM и CO семейства Integrity S4000 S4000-CM S4000-CO Возможности стойки Количество плат SPU 48 Процессорные конфигурации Симплексная 1-4 проц. SMP1-4 проц. SMP Дуплексная отказоустойчивая 1-2 проц. SMP1-4 проц. SMP Количество маршрутизаторов 24 Количество плат SSC 24 Количество гнезд в в ServerNet 1020 Количество мест установки устройств внешней памяти 1236 Процессор Микропроцессор MIPS RISC R4400 MIPS RISC R4400 Тактовая частота 200 МГц 200 МГц Первичный кэш 16 Кб - команды 16 Кб - данные 16 Кб - команды 16 Кб - данные Вторичный кэш 1 Мб процессор 1 Мб процессор Основная память Объем 128 256ECC проц. 128 256ECC проц. Максимально в системе 1024 Мб 1024 Мб Пропускная способность шины памяти пиковая 400 Мб с проц. 400 Мб с проц. Подсистема в в Количество каналов в в 2 подсистемы в в ServerNet2 подсистемы в в ServerNet Пропускная способность каналов в в пиковая 200 Мб с проц. 150 Мб с проц. Пропускная способность каналов в в пиковая 800 Мб с сист. 600 Мб с сист. Заключение В реферате был рассмотрен способ построения сервера на базе многопроцессорной SMP архитектуры, но это не единственное возможное решение.

Сервер может быть построен на базе супер компьютера или группы дешевых персональных компьютеров объединенных в кластер.

Бурное развитие сетевых технологий привело к появлению новых направлений в построении серверных систем кластерные системы. Очень сложно определить какой тип и класс сервера нужно выбрать, какой фирме производителю отдать предпочтение.

Каждая фирма для своей продукции разрабатывает набор тестов, которые учитывают специфику оцениваемой системы и зачастую не являются объективными.

В этом случае на помощь приходит набор стандартных тестов, разрабатываемых независимыми организациями. Основные типы тестов - SPEC, AIM, TPC и другие. В таблице 5. представлены параметры производительности рассмотренных систем. Как видно из таблицы наилучшие характеристики имеют системы построенные на базе процессоров фирмы Alpha. Фирма DEC после перехода с процессоров VAX на Alpha постепенно занимает лидирующее положение.

Основными состовляющими успеха является мощный процессор с высокой тактовой частотой, хорошая масштабируемость серверов до 16 процессоров и возможность объединения машин в кластер. Таблица 5. Характеристики производительностиКомпания Кофигурация tpmC MIPS SPECint95 Цена Digital AlphaServer 2100 5 300 263 7.03 - Digital AlphaServer 8400 5 350 8 CPUs 11,456 300 10.1 2,972,726 HP HP 9000 K570 14.6 Tandem NonStop Himalaya K 10000-112 20,918 3,529,520 Tandem Integrity NR 4436 Server 6,313 Bull Escala Series T 360MHz 2,000 - 14.2 1,409,965 Список литературы1 www.citfofum.ru2 www.hp.com3 www.dec.com4 www.microprocessor. sco.ru5 www.parallel.ru.