Практическая работа с серверами HP ProLiant DL320s G1 Storage Server (AG651A) каждый раз приводит меня к мысли в том, что одним из наиболее проблемных узлов этой модели является RAID-контроллер. При этом стоит отметить тот факт, что сам по себе RAID-контроллер этой модели, то есть HP Smart Array P400, никаких особых нареканий не вызывает при работе на других серверных платформах, например на HP ProLiant DL380 G5. Однако на серверах DL320s с этим контроллером не редко возникают какие-то странные проблемы. Бывало такое, что на контроллере отказывает модуль кеш-памяти. Меняем модуль и контроллер возобновляет свою штатную работу. Снятый и, якобы неисправный, модуль для проверки ставим на другой аналогичный контроллер в другом сервере, и этот модуль … работает. Иногда установка заведомо рабочего модуля не даёт желаемого результата и приходится менять сам RAID-контроллер. В некоторых случаях бывает даже так, что установка заведомо рабочего контроллера с новым модулем памяти не решает проблемы. На одном из таких "мутных" серверов в попытке выявить и ликвидировать причину возникновения подобных "глюков" в своё время даже поочерёдно менялись платы дисковой корзины Backplane Board, но это тоже не дало вменяемого результата. На фоне такого безрадостного опыта мне в руки снова попался очередной аналогичный сервер DL320s с отваливающимся кеш-модулем на RAID-контроллере и мне подумалось, что нужно попробовать найти какой-то кардинальный способ решения этой проблемы.
Экспериментальным образом было выяснено, что сервер ProLiant DL320s G1 можно превратить из самостоятельного NAS-сервера со своей хостовой ОС в обычную дисковую полку с внешним подключением через интерфейс SAS, то есть в дисковый массив DAS (Direct-attached storage), который можно будет в дальнейшем подключить к любому другому серверу в качестве расширения дисковой ёмкости. В ходе такого преобразования дисковую корзину сервера можно напрямую подключить к адаптеру типа Internal SAS – External SAS, полностью исключив таким образом RAID-контроллер Smart Array P400, как сущность, сопряжённую с проблемами.
В нашем случае для преобразования используется SAS-адаптер:
CS Electronics ADP-7084-1 Rev.A, External 4X (SFF-8470) to Internal 32-Pin (SFF-8484) Multilane Chassis SAS Adapter
Обратите внимание на то, что в крепёжной планке адаптера нам желательно сделать отверстие под стандартный винт или саморез, так как кронштейн Riser-платы сервера DL320s не имеет нормальной возможности надёжного крепления и поэтому планка адаптера без дополнительной фиксации может "гулять".
Разбираем наш сервер и извлекаем из него всё то, что нам больше не потребуется и даже будет мешать, а именно:
1) RAID-контроллер HP Smart Array P400 с модулем кеш-памяти на борту и батарейным модулем 4.8V
2) Модули лишней оперативной памяти. В сервере достаточно будет оставить только один модуль памяти самой малой ёмкости. По сути нам теперь не нужны будут ни ресурсы оперативной памяти, ни ресурсы процессора, однако полностью их снять не получится, так как в таком случае платформа будет выдавать звуковую сигнализацию и не будет выполнять дальнейшую инициализацию оборудования. То есть мы оставляем минимум памяти и процессор только для того, чтобы платформа успешно запускалась и доходила до стадии инициализации дисковой корзины.
Вставляем в кронштейн Riser-платы SAS-адаптер (на то место, где ранее стоял контроллер P400) и с помощью винта или самореза дополнительно фиксируем крепёжную планку адаптера.
Для подключения дисковой корзины к SAS-адаптеру внутри сервера будем использовать тот же SAS-кабель, которым подключался RAID-контроллер Smart Array P400 к корзине:
Кабель SAS - HP Internal SAS 32-pin Multilane (SFF-8484) to Internal Mini SAS 36-pin (SFF-8087) (PN:402084-003 Spare PN:418025-001), 0.5m
Один конец SAS-кабеля с штекером SFF-8087 подключаем внутри сервера к SAS-разъёму, расположенному на средней плате Midplane Board:
Другой конец SAS-кабеля с плоским штекером SFF-8484 подключаем внутри сервера к установленному нами SAS-адаптеру.
Ставим на своё место блок вентиляторов, тем самым дополнительно фиксируя SAS-кабель. Кстати здесь обратите внимание на то, что на верхней части вентиляторного кронштейна имеется два углубления с USB-портами и сюда при желании можно подключить USB-накопитель, если есть необходимость загружать сервер с USB. Это может быть полезно для другого типа трансформации сервера с целю полной утилизации емкости дисковой корзины с помощью таких решений, как, например, ранее рассматриваемый дистрибутив ESOS.
Затем возвращаем на своё прежнее место кронштейн с оптическим приводом, который, кстати говоря, также можно за ненадобностью отключить.
После завершения сборки серверной платформы, можем использовать получившийся внешний SAS-порт для внешнего подключения к контроллеру SAS HBA любого другого сервера с помощью стандартных внешних SAS-кабелей с разъёмом SFF-8470
Однако, прежде чем подключать наш DAS к какому-либо серверу, нам осталось учесть ещё один нюанс. Дело в том, что если у платформы DL320s не будет загрузочного накопителя, то она при включении будет обходить настроенную в BIOS последовательность поиска загрузочных накопителей, после чего, не обнаружив таких накопителей, будет циклично отправляться в перезагрузку. Чтобы избежать этой проблемы, нам достаточно включить в BIOS запрос ввода пароля на этапе включения: Server Passwords > Set Power-On Password
Такая настройка приведёт к тому, что при включении серверная платформа войдёт в режим ожидания ввода пароля.
В итоге мы получим то, что на данном этапе загрузки необходимая нам дисковая корзина уже проинициализирована и может работать с внешним SAS-контроллером, а сама серверная платформа при этом не уходит в цикличный поиск загрузочных накопителей.
Теперь с помощью внешнего SAS-кабеля подключим наш DAS к какому-нибудь серверу, имеющему на борту контроллер SAS HBA с внешним SAS-портом. В нашем случае используется сервер HP ProLiant DL360 G5 с установленным в него контроллером HP Smart Array P411 с парой внешних SAS-портов. Запустим на сервере утилиту HPE Smart Storage Administrator и убедимся в том, что все диски, установленные в DL320s доступны, как локальные дисковые устройства.
Теперь из этих дисков можно попробовать собрать RAID-массив и убедиться в том, что этот массив работает штатно.
Отличительной особенностью платформы DL320s, как таковой, является то, что под хостовую ОС приходится выделять часть дисковой ёмкости сервера. После описанного преобразования сервер превращается по сути в подключаемую дисковую полку и теперь у нас появляется возможность полностью использовать всю ёмкость дисковой корзины под нужную нам файловую нагрузку. Кроме того, платформа DL320s G1 имеет ограничение максимального объема ОЗУ на уровне 8GB, что в некоторых ситуациях может быть недостаточно и конвертация в DAS с подключением к более мощным серверам может стать решением этой проблемы.
Так как после преобразования собственной хостовой ОС у платформы DL320s не будет, может встать резонный вопрос о том, как мониторить железо этого сервера. Доступные нам возможности мониторинга можно разделить здесь на две составляющие – мониторинг самой серверной платформы и мониторинг состояния дисков. Мониторинг состояния базовых компонент (блоки питания, вентиляторы, температура, память) серверной платформы DL320s G1 мы можем выполнять с помощью имеющегося на борту материнской платы контроллера HP iLO2. О том, как организовать такой мониторинг с помощью Icinga, мы поговорим в одной из следующих статей Блога или статей тематического раздела Вики. Мониторинг же дисков, ровно как и мониторинг RAID-массивов, в которых участвуют эти диски, можно выполнять на стороне сервера с контроллером SAS HBA, через который подключена платформа DL320s. Пример такого мониторинга для серверов на базе Linux мы уже рассматривали ранее в статье Вики: Мониторинг RAID-контроллеров HP Smart Array (и Compaq MSA) в Icinga с плагинами check_raid и check_cciss.
Не страшно такой старый сервер под массив то использовать?
ProLiant DL320s G1 по компонентной базе это примерно из времён ProLiant G5. Для нас это ещё не старый, а суровая действительность. Это не страшно, Юрий Сергеевич. Сама платформа работает, блоки питания дублированные. Вполне ещё годное для работы решение под резервное копирование или не сильно нагруженные файловые ресурсы.
Материнская плата одна - в таком возрасте вполне возможны внезапные ребуты из-за конденсаторов, 10 лет это не шутки...
Если я правильно понимаю, конденсаторы на матери там все твердотельные. Исключением являются лишь конденсаторы на райзере, который в данном случае не используется. Так что, как говорит один знакомый гражданин, "не надо нас дурачить" :)
Доброго.
Вариант собрать рейд0 из одного диска (serverfault.com/questions/29349/disabling-raid-feature-on-hp-smart-array-p400) (итого - N-ое кол-во рейд0) и использовать FreeNAS\NAS4free\OMV в купе с ZFS не рассматривался?
Нет. В нашем случае нет необходимости в дополнительном слое изощрений.
Добрый день! Извиняюсь за некропостинг, где вы брали CS Electronics ADP-7084-1 Rev.A ? Найти в России не могу нигде.
Здравствуйте, Сергей. В России такое наверно найти будет не просто. Проще всего заказать у китайцев.
Нашел аналог 2-х портовый,http://store.mnt.ru/products/7043, вдруг кто тоже заинтересуется утилизацией старого железа.
Можно и такой, но цена какая-то нескромная за такую железку. Помимо того, что описано в статье, мы ещё использовали такие переходники:
Адаптер SAS - Xiwai SF-035 PCBA Female Adapter, 2-Ports, 6Gb/s, External Mini-SAS 26-pin (SFF-8088) to Internal SAS 36-Pin (SFF-8087), PCI Bracket
https://aliexpress.ru/i/33054576326.html
Но там внутренний интерфейс у них немного другой, поэтому и кабель для подключения к дисковой корзине сервера нужен будет другой. Например, у нас использовался к таким переходникам такой кабель:
Кабель SAS - HP Internal Mini SAS 36-pin (SFF-8087) to Internal Mini SAS 36-pin (SFF-8087) (PN:776390-001 SP:784625-001 6017B0499201), 27.5"/69.85cm
Ну и соответственно, для внешнего подключения тоже кабель будет другой, типа такого
Кабель SAS - HPE 407339-B21 External Mini SAS (SFF-8088) to Mini SAS (SFF-8088) 2m 6.56ft (PN:407344-003 Rev.H 10013908 SP:408767-001) Black