Кластер это просто. Часть 1.

Цикл заметок о запуске высокопроизводительного кластера (HPC) на базе дистрибутива Rocks Cluster

1. Постановка задачи.

По желанию одного из  клиентов было необходимо создать программно-аппаратный комплекс, представляющий из себя макет высокопризводительного вычислительного кластера с многотредовыми (многопоточными) вычислительными узлами двух типов. Макет создается для обучения высокопроизводительным вычислиениям.  Как следствие, кластер должен быть небольшим и максимально простым в использовании.

2.Состав серверов кластера.

Для реализации была выбрана схема кластера с одним управляющим узлом и четырмя вычислительными  узлами.

 Управляющий узел.

На управляюший узел возложены все «сервисные» функции.  Он выступает в качестве

  • управляющего сервера
  • файлового сервера
  • сервера установки и обновления
  • сервера мониторинга

В качестве «железной» реализации управляющего сервера был выбран HP ProLiant DL180 с 8 Gb оперативной памяти и 10Tb чистого дискового пространства ( т.е. не собранного в raid массивы)

HP ProLiant DL180

рис. 1

 

 

 

 

 

Вычислительные узлы.

Основная и, в нашем случае, единственная функция вычислительных узлов  кластера  — это

  • выполнение расчетов

Для четырех вычислительных узлов нам было необходимо выбрать сервера двух типов. Мы остановились на

 Тип 1

Сервера на базе процессоров Intel(R) Xeon E5620, по 2 CPU х 6 ядра в каждом сервере, т.е. 12 полноценных ядер или 24 при использовании Hyper-threading.  В качестве первого типа узлов выступают HP ProLiant DL360 с 36 Gb оперативной памяти

HP ProLiant DL360

рис. 2

 

 

 

 

Тип 2

Сервера на базе процессоров AMD Opteron 6176, по 4 CPU x 12 ядер в каждом сервере.  Итого, в каждом сервере  будет  по  48 ядер.  Роль этих серверов выполняют HP ProLiant DL585 с 128 Gb оперативной памяти.

HP ProLiant DL585

рис. 3

 

 

 

 

 

3. Сети кластера.

В кластере были использованы два типа сетей — Gigabit Ethernet и Infiniband. Cеть Gigabit ethernet соединяет все серверы кластера , а сеть Infiniband используется для попарного соединения однотипных узлов. Получаем кластер без коммутатора Infiniband.
Схема соединения кластера представлена на рисунке:

Cluster Networks

рис. 4

 

 

 

 

 

 

4. Программное обеспечение.

При постановке задачи было пожелание клиента использовать специализированный кластерный дистрибутив. Первоначально предполагалось, что макет будет работать на кластерном дистрибутиве HPC Solution компании Red Hat. При подготовке проекта выяснилось, что проект кластерного дистрибутива HPC Solution компанией Red Hat был закрыт и приобретсти его сейчас невозможно (Red Hat HPC Solution Life Cycle). Тогда было решено попробовать в проекте кластерный дистрибутив Rocks Cluster. Дистрибутив развивается Rocks Cluster Group в суперкомпьютерном центре Сан-Диего Калифорнийского университета.  Центр был основан на деньгu гранта  от Национального научного фонда  по программе развития суперкомпьютерных центров  в 1985 году. Разработчики провозглашают основную и  единственную цель дистрибутива  — «Make clusters easy» ( в вольном переложении на родной язык это может звучать как  «Кластер это просто»).  Проверим так ли это.

Продолжение следует…

 

Другие статьи о Rocks Cluster:

Кластер это просто. Часть 2. «Установка Rocks Cluster».