Карта с заметками по экзаменам EMC E20-324 и E20-545

Несколько заметок, сделанных при подготовке к экзаменам EMC E20-324 и E20-545 (EMC VNX Technology Architect).


Адрес карты: EMC E20-324 + EMC E20-545

Система хранения данных с адресацией по содержимому EMC Centera

В заметке приведен краткий список преимуществ cистема хранения данных с адресацией по содержимому (content addressable storage) EMC Centera.

Надежность хранения

Есть механизмы по идентификации ошибок - дисков, узлов, файловой системы.
Есть механизмы для автоматической коррекции ошибок.
Есть два варианта защиты данных - зеркало и контроль четности.
Данные хранятся на двух разных узлах - в случае зеркала.
Защита с четностью бьет объект на 6 фрагментов и размещает их на 6 узлах. Четность хранится на 7 узле.
Имеется удвоенная внутренняя сеть.
В узлах по 2 блока питания.

Операционная система CentraStar обеспечивает надежность хранения и целостности файлов. Классы хранения, гарантированное уничтожение данных по окончании хранения.

Варианты поставки и функций: Basic, governance edition, compliance edition.

Репликация

star, chain (bidirectional).


Адресация

По получении в Centera о данных генерируется уникальный контентный адрес, он отсылается приложению, далее приложение хранит этот адрес и обращается к данным через него.
Центера хранит .xml content description file - там данные о файле, его адрес, комментарии, доп. инфо. Контентный адрес создается на пару - сам файл данных и файл с описанием хранимого файла. Это обеспечивает уникальность контентного адреса.

Простота администрирования

Самая низкая TCO на рынке.
Самоуправляемая, самоконфигурирования, самоисправляющаяся система.
1 PB на одного инженера. Есть java centera monitor. Centera view.

Характеристики

Один узел состоит из:
1 RU сервер, 1 ГБ RAM, P4, 4 шт. 1 или 2 ТБ дисков, 3 шт. 1 Gb Ethernet интерфейсов - 2 во внетреннюю сеть, 1 во внешнюю.
Узел может функционировать в режиме доступа, хранения или смешанном.

Базовый комплект состоит из 4 узлов при защите зеркалом или 8 узлов при защите контролем четности. Увеличение по 2 узла для зеркала или 8 для четности.
В шкафу 32 узла и 2 шт. 24-портовых коммутатора.

Centera xранит одну копию объекта (single instance storage).

Centera Universal Access - CUA - обеспечивает доступ к содержимому Centera для любых устройств, которые не поддерживают Centera API по протоколам nfs, xam (extensible access method), cifs. Ftp, http.

Xam - стандартизованное API для обращения к Centera (разработчики стандарта IBM и EMC )

Дисковые библиотеки EMC Data Domain

В заметке приведен краткий список преимуществ дисковых библиотек с дедупликацией Data Domain от компании EMC.

Cкорость

Данные размещаются на дисках уже дедуплицированными. Механизм дедупликации ЦПУ-ориентированный.

SISL - stream informed segment layout архитектура позволяет горизонтально масштабироваться при наращивании процессорной мощности устройств. 99% дуплицированных данных переменной длины определяются в RAM. Соотвествующие (связанные) фрагменты и их идентификаторы хранятся в одном месте что сокращает дисковые операции при их чтении и записи. Далее уникальные фрагменты сжимаются.

EMC закрыл линейку своих библиотек DL3D после покупки Data Domain.


Data Domain boost software - ПО переносит ряд процессов дедупликации на сервер резервного копирования. (symantec netbackup и backup exec + networker) повышает скорость записи данных на дисковую библиотеку на 50%.

Для библиотеки DD690 скорость записи - 2,7 ТБ/час (Symantec OpenStarage по 10 Гб Ethernet). DD880 - 5.4 ТБ/час, DD660 - 2.0 ТБ/час

Для библиотеки DD690
Raw capacity - до 48 ТБ(3 полки)
Logical capacity - 1-2 ПБ

Легкость интеграции

Эмулирует ленточную библиотеку - VTL. IBM Tivoli поддерживает DD. Поддерживаемые протоколы - Nfs cifs, open storage, vtl over fc.

Репликация

Благодаря передачи только дедуплицированных уникальных блоков возможна репликация между библиотеками по WAN каналам.

Механизм межсайтовой дедупликации - если один из сайтов передал дедуплицированные сегменты, другие при репликации их передавать уже не будут. Дополнительно сокращает объем передаваемых данных и время репликации.
Возможны локальная и кроссайтовая дедупликация.

Скорость репликации может достигать 27 ТБ по 10 Гб за 1 час. Возможны разные архитектуры.
Высвобождает до 99% пропускной способности по сравнению с обычной репликацией.

Емкость

Для долговременного хранения можно использовать ленту.

Дедупликация

Сокращает занимаемый объем данными в 10-30 раз

Надежность хранения

Происходит непрерывная верификация целостности данных во время записи данных и их дальнейшего хранения.
Raid-6 - защищает систему от сбоев 2 дисков подряд.
Данные хранятся на диске зашифрованными (aes-128 или aes-256).

FAST - Fully Automated Storage Tiering

Fully Automated Storage Tiering - технология, применяемая в системах хранения данных компании EMC - Symmetrix V-Max, CLARiiON CX4, Celerra NS. Позволяет автоматически в реальном времени перемещать тома данных на дисковые группы с разной производительностью (EFD, FC, SATA) в зависимости от нагрузки.

Перемещение томов данных происходит при помощи технологии Virtual LUN.

Для настройки FAST следует настроить:
Storage type - объединение однотипных дисков с определенным уровнем защиты RAID, например Flash storage with RAID 5.
FAST Policies - правила расположения томов на уровнях хранения.
Storage group - набор томов, к которым будет применен определенный вид FAST Policies.

Применяется 3 типа алгоритмов, по которым определяется перемещать ли тома:

• EFD promotion/demotion algorithm
• Capacity-based algorithm
• FC/SATA cross-tier algorithm
  

EFD promotion/demotion algorithm - определяет какие тома испытывают большую нагрузку и перемещает их на уровень EFD. При этом после полной загрузки емкости EFD постоянно проводится мониторинг за оставшимися томами и если появляется более загруженный том, он меняется местом с менее загруженным томом, находящимся на уровне EFD. Количество максимальных миграций томов в день определяется при настройке FAST.
Capacity-based algorithm - способствует более равномерному распределению томов по уровням хранения. При этом принимается во внимание объем занимаемого пространства.
FC/SATA cross-tier algorithm - равномерно распределяет нагрузку ввода/вывода по уровням FC и SATA. Тома сортируются по уровню нагрузки и более нагруженные тома перемещаются на менее загруженные дисковые группы.

Сейчас единицей перемещение является том. В будущем EMC обещает: "Future FAST capabilities for Symmetrix V-Max and CLARiiON CX4 will deliver greater efficiencies through a more granular sub-LUN approach. This approach will provide you with even greater total cost of ownership benefits by identifying and moving very small amounts of really active or “hot” data to Flash and the majority of data to lower-cost SATA drives."

В Symmetrix технология FAST поддерживается OE Enginuity Version 5874 Enhancements for Symmetrix V-Max.

Дисковые библиотеки Data Domain с технологией дедупликации

Компания EMC недавно купила изготовителя дисковых библиотек Data Domain и начала продвигать ее продукцию в России. Вся линейка дисковых библиотек с дедупликацией Data Domain включает в себя сейчас 8 продуктов.

Флагманским продуктом в консолидированных библиотеках Data Domain является модель DD880. Само устройство представляет из себя единый контроллер высотой 4RU, к которому подключены дисковые полки c 0.5 или 1 ТБ SATA дисками в RAID-6. Полезная (сырая) емкость – 5,4-71 ТБ. Логический объем хранимых данных – 1,4 – 3,5 ПБ. Внешние интерфейсы – 1-10 Гбит/с NIC и 4 Гбит/с FC. Для модели DВ880 скорость резервного копирования составляет 5,4 ТБ/час по протоколу OpenStorage и 2,5 ТБ/ч по протоколу tape library emulation (VTL) over Fibre Channel. Скорость восстановления данных меньше на 20%.

Устройство работает на модифицированной и доработанной ОС Red Hat Linux.

Перестроение RAID групп длится около 1 часа для дисков объемом 500 ГБ и не влияет на скорость резервного копирования.

Для 10 000 установленных устройств этой компании на данный момент не зафиксировано ни одного случая потерь данных по вине оборудования.

Использование библиотек с дедупликацией позволяет сократить объем данных даже после инкрементального копирования на 80%.
Удаление устаревших данных (garbage collection) происходит в фоновом режиме и не требует окна в резервном копировании.

Заявляется в среднем сокращение объема данных при дедупликации:
• Первая копия – х2
• Инкрементальное копирование - x10
• Полная копия – x20

Есть раздел Data Domain Resource Center на powerlink.emc.com - https://powerlink.emc.com/nsepn/webapps/btg548664833igtcuup4826/km/appmanager/km/secureDesktop?_nfpb=true&_pageLabel=image7b&internalId=0b014066804651a4&_irrt=true

Показатели быстродействия дисковой подсистемы массивов CLARiiON

При проектировании дисковой подсистемы для серьезного безнес-приложения важно не упустить из вида производительность этой подсистемы при различных вариантах нагрузки и скорость восстановления при сбоях. Показатели очень меняются в зависимости от состояния самой системы, наличия сбоев в работе массива или конкурентных заданий. Ниже приводятся значения, взятые из документации на дисковые массивы CLARiiON CX4.

Восстановление RAID c наивысшей скоростью (ASAP) для типов RAID c контролем четности и зеркалированием и дисков Fibre Channel без внешней нагрузки:

• Mirrored RAID - 70 MB/s
• Parity RAID-5 - 50 MB/s
  

Ограниченные скорости восстановления RAID c c контролем четности и зеркалированием и дисками Fibre Channel:

• Low - 2 MB/s
• Medium - 6 MB/s
• High - 13 MB/s

Влияние размера группы RAID c контролем четности на восстановление:

• группа из 6 дисков: RAID-5 50 MB/s, RAID-6 50 MB/s;
• группа из <= 9 дисков: RAID-5 34.1 MB/s, RAID-6 27.3 MB/s;
• группа из <= 12 дисков: RAID-5 24.4 MB/s, RAID-6 22.2 MB/s;
• группа из >=15 дисков: RAID-5 17.9 MB/s, RAID-6 17.4 MB/s.

Количество операций ввода\вывода для операция с маленькими блоками для различных дисков:

• Fibre Channel 15k rpm 180 IOPS,
• SAS 15k rpm 180 IOPS,
• Fibre Channel 10k rpm 140 IOPS,
• SATA 7.2k rpm 80 IOPS,
• SATA 5.4k rpm 40 IOPS,
• EFD 2500 IOPS.

Скорость передачи данных для случайной нагрузки большими блоками для различных дисков:

• Fibre Channel 15k rpm: блоки 64 KB - 8.0 MB/s, блоки 512 KB - 32.0 MB/s,
• SAS 15k rpm: блоки 64 KB - 6.0 MB/s, блоки 512 KB - 32.0 MB/s,
• Fibre Channel 10k rpm: блоки 64 KB - 8.0 MB/s, блоки 512 KB - 24.0 MB/s,
• SATA 7.2k rpm: блоки 64 KB - 4.0 MB/s, блоки 512 KB - 16.0 MB/s,
• SATA 5.4k rpm: блоки 64 KB - 2.5 MB/s, блоки 512 KB - 12.0 MB/s,
• EFD: блоки 64 KB - 100 MB/s, блоки 512 KB - 100 MB/s.

Определение количество операций ввода\вывода на дисковую подсистему для разных типов RAID:

• Parity RAID 5 and 3: Disk IOPS = Read IOPS + 4*Write IOPS,
• Parity RAID 6: Disk IOPS = Read IOPS + 6*Write IOPS,
• Mirrored RAID: Disk IOPS = Read IOPS + 2*Write IOPS.
  

Источник - "EMC CLARiiON Performance and Availability: Release 28.5 Firmware Update Applied Best Practices".

Заметки по СХД EMC CLARiiON CX4

• Ax4-5 при использовании одного процессора отключает кэш записи, используется только кэш чтения (доступно 200 МБ).
• Ax4-5 является "канальным" продуктом и на него EMC практически не делает скидок.
• Количество высокодоступных хостов, которое указывается в характеристиках массивов не совсем соответсвует реальности. Указывается количество хостов с 2 инициаторами. При подключении через 2 коммутатора каждый хост представляется массиву как 4 инициатора. Поэтому следует количество высокодоступных хостов делить на 2.
• Предел по инициаторам сейчас довольно просто достичь при использовании виртуальных инициаторов, выдаваемым виртуальным машинам.
• В гипервизоры VMWare встроен host-agent который регистрирует гипервизор в дисковых массивах, отдельно доставлять это ПО не надо.
• В CX4 модули ввода/вывода устанавливаются всегда парами, невозможно разное количество и состав модулей в процессоры.
• Пропускная способность модуля ввода/вывода составляет 2 ГБ/с. Сейчас к заказу доступны модули FC 8 Гб/с (720 МБ/с).
• Твердотельные накопители хотя и являются дорогими в абсолютном выражении, являются самыми дешевыми в расчете на одну операцию ввода/вывода. Сейчас доступны к заказу накопители в 73 и 400 ГБ. Изготовителем заявляется гарантированная работа накопителей в течении 5 лет при постоянном цикле перезаписи. Накопители имеют запас порядка 30% от своего объема для восстановления поврежденных секторов.
• В CX4 кэш на запись отключается только в случае исчезновения питания, в отличие от CX3.
• Питание на кэш подается отдельно, перезагрузка процессора не влияет на кэш.
• Navishpere Off-array manager обладает встроенным help, который доступен на управляющей станции без подключения к массиву, в отличие от обычного Navisphere.
• Сессии MirrorView можно настраивать между массивами, находящимися в разных доменах. Для этого следует настроить мультидоменную конфигурацию на одном из мастеров.
• Кэш чтения работает, в основном, при последовательном чтении большими блоками.
• Считывание данных логирования дискового массива возможно и без Navisphere Analyzer. Для этого нужно забрать логи через naviseccli -archiveretrive или Navisphere из File Transpher Manager. Это файлы с расширениями .nar или .naz. Для анализа этих данных следует использовать ПО "Off-array analyzer".
• В FLARE 28.5 не рекомендуется объединять диски с разных полок одной шины в одну RAID-группу. В FLARE 26 такой вариант объединения был приемлем.
• Virtual LUN создается быстрее чем MetaLUN stripe.
• При использовании MetaLUN можно склеить много R5 5+1 при этом потеря диска не вызовет долгого и опасного ребилда.
• MetaLUN объединяется с MetaLUN, но только способом конкатенации.
• Первоначальную подготовку LUN после их создания лучше не убирать и подождать, пока она закончится.
• При опрациях SnapView, таких как rollback, следует обязательно сбрасывать буферы ОС, удалить букву диска, отмонтировать диски.
• SnapView поддерживает до 8 снимков с источника.
• Без сброса буферов снимки и клоны делать не стоит, иначе они будут неконсистентны.
• Перед операцией fracture стоит также сбросить буферы.
• Protected restore - запрет записи на клон при его восстановлении на источник.
• При старте SnapView сессии подтверждение записи к хосту приходит только после того, как чанк будет перенесен в RLP. Это сильно сказывается на производительности, особенно БД, при этом не используется кэш.
• Locality of reference - повторная запись в измененный чанк. При этом переноса данных не происходит.
• MirrorView работает на расстояниях 10-20 км, при задержке в 10 секунд зеркало разрушается и наступает запись в fracture log. При этом запись для хоста на 10 секунд замораживается.
• Write Intent Log запоминает синхронные записи. Хранится в кэше.
• FULL SanCopye не умеет отслеживать изменения на основном LUN после начала сессии, поэтому стоит делать копию со снимка.
• Incremental SC отслеживает изменения блоков.
• Для миграции данных используют EMC Live Migrator или PowerPath Migration Enabler на стороне хоста.
• MirrorView/A лучше RecoverPoint по цене и является объединением технологий SC, MV/S, SV.
• QoS позволяет объединять до 32 классов лимита в одну политику.
• Круиз-контроль возможно использовать только один.
• Virtual Provisionig плохо работает в потоковых операциях. IO проседают примерно на 30%, Response time на 10 %
• CX4 120 и 240 потенциально могут выдавать до 60000 IOPS.
• При проектировании рекомендую оставлять запас в 50% по дисковой емкости массива.

EMC Documentum - заметки о продукте

В Documentum отдельно хранятся индексы документов, отдельно хранятся карточки (в базах данных). Сами документы хранятся в файловой системе.

Индексированием файлов в Documentum занимается модуль FAST.

В качестве middle-ware можно использовать Microsoft BizTalk.

Среда разработки для Documentum - Eclipse.

В Documentum имеется полная поддержка xml, что удобно для взаимодействия со сторонними web-приложениями.

Отдельно использовать Business Process Suite без привязки к Documentum Content Server нет смысла. Для обычного проектирования бизнес-процессов лучше использовать инструменты Aris.

Business Process Suite может взаимодействовать с приложениями Aris.

Возможна интеграция со сторонними криптопровайдерами, в том числе и с российским КриптоПро.

Возможна интеграция с SAP.

В модулях TaskSpase можно легко менять оформление и содержимое путем конфигурирования а не программирования, как для модулей WebTop.

Поддерживается передача файлов в репозиторий при помощи протокола FTP.

Поддерживается Outlook, куда устанавливается отдельный модуль.

В России Documentum занимает примерно 30% рынка систем ЭДО.

Из отечественных продуктов лидером ЭДО являетя Директум.

Есь ECM решение open source - Alfresco.

Documentum E-room является порталом, а не СЭД.

Сейчас разрабатывается бесплатный альтернативный клиент CenterStage. Будет являться альтернативой e-room. Будет обладать большей функциональностью.

У Documentum есть своя система защиты информации - IRM. Работает на сервере, документ находится в защищенном контейнере. После его активации документ, попавший на хост, не поддается полнотектсовому индексированию для посковых механизмов.

Модули для сканирования и распознавания Captiva настраиваются при помощи Visual Basic.

Dispatcher - занимается распознаванием заполненных форм и распределением данных в карточки документов.

Интеллект-карта с фактическим материалом по экзамену EMC e20-340 - EMC CLARiiON Solution Implementation Exam

При подготовке к экзамену создал интеллект-карту в веб-сервисе http://mindomo.com/.

Думаю, может быть кому-то полезной при подготовке к экзамену или для обобщения своих знаний по массивам CLARiiON. Картинка в формате .png наглядна, но нет возможности читать заметки, сделанные к некоторым веткам.

Так как файл изображения получился большой, выкладываю его вместе с интеллект-картой на народе -

http://narod.ru/disk/9749793000/e20-340.rar.html

Полная интеллект-карта доступна если зарегистрироваться на ресурсе и установить off-line редактор Mindomo Desktop. Тогда можно получить доступ ко всей карте по ссылке -
http://mindomo.com/text.htm?m=2f8931e516ff49d0b9e5cbec05da99d6

Заметки к экзамену EMC CLARiiON Solutions Implementation Exam e20-340

• Что надо знать для назначения адреса порту управления инициализируемому массиву? serial number.
• На что влияет включение фильтрации ip в нависфере? i/o paths between system and client are not affected.
• Какая утилита проверяет установку софта аварийного переключения на хосте и наличие избыточных путей между массивом и хостом? Navisphere Server Utility
• Пользователь не может подключиться к нависфере, что ему следует проверить, если пароль и логин верные. Verify case of username and password.
• Где и какими утилитами можно назначить ipv6 адрес процессорам массива? SP properties and navisphere storage initialization utility.
• Как отобразить ошибки клариона через командную строчку? naviseccli -h array_address faults -list.
• Какое максимальное число коммутаторов fc допустимо для cx4? 16.
• Какие два условия должны быть соблюдены для разрушения сторидж группы. No SANCopy connections (count like a host connections) and connected hosts.
• Какая информация выдается после вывода в кли инфо об ошибках? Enclosures, disks, power supplies, storage processors, SPS, MirrorView/Asyncronous sessions.
• Когда информация об хосте отсылается всем подключенным кларионам? Shortly after Navisphere host agent starts up.
• Какая версия PowerPath поддерживает алуа? 5.1 or later.
• Что надо знать для создания офсета на вновь создаваемом металуне? Exact size of the private information on the LUN.
• Какая команда отключает ограничение на подключение хостов только к лунам из их сторидж группы (отключает Access Logix)? naviseccli -h host sc_off
• Какая причина ошибка авторизации - management server:caller not privileged? User has not created a user security file on the host.
• В коммутируемой фабрике какая функция отвечает за распределение лунов по хостам? Access Logix.
• По лучшим практикам где должны быть созданы клоны, на каких дисках? On the separate physical disks.
  
• Сколько максимально хопов должно быть по лучшим практикам между всеми узлами в фабрике? 3
• Где в Солярисе выставляется таймаут для команд ? /etc/system
• Какой командой выравнивают партиции в линуксе? fdisk
• Сколько scsi устройств поддерживаются максимально в SUSE? 256
• Какой максимальный размер луна в hp-ux 11i v3 c испоьзованием LVM? 16 ТБ
• Что произойдет с алуа софтом если путь к СП, владеющему луном, выйдет из строя? Upper redirector will route the I/O to the SP owning the LUN.
• Когда в серверной утилите нависферы запущен дисковер iscsi и он выдает что ничего нет, что это означает? Chap authentication is enabled on all target ports.
• Где в линуксе прописывается уникальное имя iscsi инициатора? /etc/initiatorname.iscsi.
• Какая макс конфигурация резерв лун пулов для снепов со 100 гб луна когда надо менять снеп? 4 LUN of 50 ГБ
• Сколько макс лунов в резерв лун пуле для сх3-40? 256
• Сколько переписывается после восстановления соединения данных? 250 ГБ
• Как в мдс называется транковый межкоммутаторный порт через который можно пропускать множество VSAN по ISL? TE-port
• Какой брокейд поддерживает fcip? MP7500
• Какие дополнительные функции нависфер сервер утилита, ? Запускает регистрационную утилиту.
• Как передавать сертификаты x509 в нависфере? В html-форму.
• В коммутаторах Cisco поддерживаются 3 активных туннеля FCIP на один порт GigEthernet, но устройства EMC принимают только 1 туннель на 1 порт.
• На хосте Соляриса при конфигурировании системных файлов в /ect/system следует изменить значения параметров sd_max_throttle and sd_io_time.
• При использовании Microsoft Initiator Service следует отключить data and header digest.
• Минимальный размер данных, который может отслеживаться на изменение - в FLARE 19 и выше это 2 КБ, в FLARE до версии 19 - 64 КБ.
• The first part being the WWNN and second part being WWPN. So for a given SPE, the WWNN is the same for all ports but WWPN is unique for each port (see the middle digits of WWPN - 60,61,62,63 for SPA0, A1, A2, A3 and 68,69,6A,6B for SPB0, B1, B2,B3 respectively).

EMC AVAMAR - система резервного копирования с глобальной дедупликацией на стороне клиента

Ниже приведены заметки о системе распределенного резервного копирования с дедупликацией данных на стороне клиентов EMC Avamar.

Avamar поставляется в 3 видах - как ПО, как устройство (сервер и ПО) и как виртуальная машина.

Устройства (appliance) поставляются в виде сервера, дистрибутива ОС (оптимизированный RedHat) и комплекта дистрибутива Avamar, которые интегратор должен самостоятельно поставить на этот сервер.

Устройство (appliance) 1 ТБ укомплектовано 6 дисками SAS, находящимися в RAID 5.
Устройство (appliance) 2 ТБ укомплектовано 6 дисками SATA, находящимися в RAID 10.
Доукомплектовать устройства дисками невозможно, если закуплено устройство в 1 ТБ и понадобится расширить емкость, придется закупать новое устройство. При этом объединить в RAIN архитектуру устройства разного объема невозможно.
В архитектуре RAIN есть роли storage node и utility node. Utility node не хранит информации, в нем 2 диска в RAID 1.

ПО можно ставить только на довольно узкий список поддерживаемых серверов. Для Avamar 4.X cейчас поддерживаются:
Dell PowerEdge 2950III, HP DL320s, HP DL360 G5 c MSA 60, HP DL365 с MSA60, HP DL380 G5, HP DL385 G2, IBM x3650.
Процессоры поддерживаются только 64-bit.

AVE - Avamar Virtual Engine версия 1,2 Требует 64-битного процессора.
AVD - виртуальная машина для демонстрации, позволяет сохранить около 10 ГБ - дедуплицированных данных. Запускается на VMWare workstation, требует 1 ГБ оперативной памяти. Работает на 32-битных процессорах.

Виртуальная машина с Avamar может быть 0,5 - 1 - 2 ТБ. Требует соответственно 3 - 4 - 16 ГБ RAM.
Процессор строго 64-бит .

Avamar проверяет сохраненные данные в фоновом режиме после окончания плановых резервных сессий резервного копирования. При этом некоторые служебные процессы (garbage collection) не должны пересекаться с сессиями резервного копирования во времени.

Дедупликация происходит на клиенте. Алгоритм работы ПО на клиенте следующий.

1. При помощи алгоритма Sticky-byte Factoring (вычисление бегущего хэша в 32 бита) выделяются сегменты из сохраняемых данных. Размер сегментов - от одного байта до 64 КБ.
2. Сжатие сегментов
3. Вычисление хэша SHA-1 (20 байт) для каждого сжатого сегмента и файлов целиком.
4. Commonality Factoring - запрос сервера Avamar на наличие в нем уникального сегмента.
5. Передача уникальных сегментов и метаданных на сервер Avamar.


На клиенте содержатся 2 файла с кэшем хэшей -
f_cahe.dat - содержит хэши файлов и метаданные
p_cache.dat - хэши фрагментов, отправленных на сервер

Рекомендуют устанавливать размер файлов f_cahe.dat в 1/8 от объема RAM а p_cache.dat 1/16 от объема RAM. При резервном копировании эти файлы выгружаются в RAM.

Root hash - хэш файла, его уникальный идентификатор.

Скорость работы клиентского приложения - сканирование примерно 1 млн объектов в час. Скорость резервного копирования - около 100 ГБ/час. Восстановление проходит дольше - около 25 ГБ в час (до 40 ГБ в час). Сильно зависит от типа данных.

После первичной дедупликации отсекается около 30 % данных. Для оценки первичной дедупликации есть вспомогательное ПО - avasst.exe Это набор скриптов, которые запускают клиента avamar и подсчитывают процент уникальных сегментов.

Если данные забьют хранилище сервера, он перейдет в режим Read Only. После этого требуется вручную запускать процесс очистки (garbage collection).

При резервном копировании данных файловой системы 15 рабочих станций, (копировали все кроме программ и windows) дедупликация получилась 1:20 (на 300 ГБ хранились 5,7 ТБ полезных данных).

На 1 узел максимально возможно 18 одновременных сессий их которых 17 сессий используется для клиентов и 1 для репликации.

Общего места на дисковой подсистеме требуется в 1,5 раза больше, чем доступно для хранения дедуплицированных данных резервного копирования. Это связано с проверкой данных в фоновом режиме и хранении двух check point.

Данные Avamar хранятся в специализированной базе данных GSAN. Ее элементы называются stipe, их максимальный размер - 360 МБ. После прохождения процесса Garbage Collection ненужные блоки помечаются, но не удаляются. Для высвобождения места должен пройти процесс crunch - формирования новых страйпов или сжатие старого страйпа без копирования.

65 % дискового пространства на сервере Avamar отводятся для хранения данных, выше этого объема система переходит в режим read-only. (например, при лицензировании на 1 ТБ, 1 ТБ -
Это 65 % от общей емкости дисковой подсистемы).

Рекомендуется применять Avamar при активности изменения файлов не более 5% за день. Avamar неоптимально работает с аудио, видео, архивами, мультиплексированными данными.

Рекомендуют подвергать резервному копированию не более 2 ТБ на одном клиенте. Максимальный объем дедуплицированных данных, хранимых в RAIN Avamar - 32 ТБ.

Конкурент Avamar - Pure Disk. У него лицензии дешевле, но взимаются за объем до дедупликации. У Avamar лицензии считаются после дедупликации.

Некорректное распознавание размера раздела в ОС виртуальной машины после его расширения на гипервизоре VMWare ESXi 3.5

Иногда при расширении разделов дисков виртуальных машин при помощи инструментов сторонних разработчиков (например, GParted или Acronis) в операционных системах Windows XP/2003 происходит ситуация, когда в оснастке управления дисками размер диска показан корректно, а размер раздела - старый. И ОС видит диск только старого размера, без приращения свободного места.

Это вызвано сбоем в работе утилиты изменения таблицы разделов после расширения диска (видимо, при работе утилиты ntfsresize). Подобна ситуация возникает, как правило, если виртуальная машина быва выключена аварийно или на диске имелись ошибки.

Одно из решений -

1. проверить диск утилитой chkdsk ,
   
2. перезагрузить ОС штатным образом,
3. загрузиться в утилиту расширения дисков, например gparted,
4. уменьшить размер диска на небольшую величину с применением изменения,
5. увеличить размер диска до требуемой величины с применить изменения.
   

Если после 5 шага программа не выдаст ошибки, то все ОК и диск расширен корректно. После этого при первом включении виртуальной машины запустится проверка диска во время начального этапа загрузки ОС, после произойдет перезагрузка и ОС загрузится в нормальном режиме.

Источник - http://www.seandeasy.com/expanding-a-drive-within-a-vmware-image/

Смещение логического тома дискового массива EMC CLARiiON в среде Microsoft Windows 2000/2003

Операционные системы Microsoft Windows Server 2000/2003 не определяют корректно геометрию дисков в логических томах, находящихся на дисковых массивах (например, EMC Symmetrix или CLARiiON). ОС резервирует 63 сектора (31.5 КБ) в начале тома для служебных данных (наследие старой геометрии дисков архитектуы Intel - Master Boot Record) и начинает записывать полезные данные с 64 сектора. В результате этого немодифицированные тома записывают данные неоптимально и производительность дискового массива снижается. Возникающий эффект называется "disk crossing".

Из-за ошибочного определения геометрии дисков происходит разбиение одного записываемого блока на два. Это встречается со следующей частотой:

• Any I/O of 32 KB or larger will always cause a boundary crossing.
• Any random I/O of 16 KB will cause a boundary crossing 50 percent of the time.
• Any random I/O of 8 KB will cause a boundary crossing 25 percent of the time.
• Any random I/O of 4 KB will cause a boundary crossing 12.5 percent of the time.
  

Для исправления ситуации необходимо изменить размер зарезервированной области до оптимального. В случае массива EMC CLARiiON этот размер равен 128 блокам (64 КБ), что одинаково корректно для записи блоков Windows в 4 КБ (стандартный размер блока для форматирования разделов NTFS), так и для записи элементов массива CLARiiON в 64 КБ. В результате этого данные будут записываться во второй дисковый элемент первого страйпа массива.

Оптимизировать тома можно как средствами дискового массива, так и инструментами ОС. Последний вариант является более предпочтительным, т.к. при изменении настроек LUN в дисковом массиве это отразится на работе встроенных приложений, таких как SnapView, SanCopy, т.д.

Для оптимизации в среде Windows доступно 2 программы - diskpar (позволяет оптимизировать тома на всех версиях Windows NT, 2000 и 2003, находится в Windows 2000 Resource Kit) и diskpart (позволяет оптимизировать тома в Windows 2003 SP1 и выше). Применение этих утилит необходимо запланировать до разметки диска, т.к. они удаляют все данные, если они находились на томе.

Улучшение производительности после выравнивания томов может достигать 20 процентов и более.

C:\ diskpart
Microsoft DiskPart version 5.2.3790.1830
Copyright (C) 1999-2001 Microsoft Corporation.
On computer: W3K-LAB
DISKPART> select disk 1
Disk 1 is now the selected disk.
DISKPART> create partition primary align=64
DiskPart succeeded in creating the specified partition.
DISKPART> exit
Leaving DiskPart...


C:\> diskpar -s 1
Set partition can only be done on a raw drive.
You can use Disk Manager to delete all existing partitions
Are you sure drive 1 is a raw device without any partition? (Y/N) y
---- Drive 1 Geometry Information ----
Cylinders = 1174
TracksPerCylinder = 255
SectorsPerTrack = 63
BytesPerSector = 512
DiskSize = 9656478720 (Bytes) = 9209 (MB)
We are going to set the new disk partition.
All data on this drive will be lost. continue (Y/N)? y
Please specify starting offset (in sectors): 128
Please specify partition length (in MB) (Max = 69044): 4000
Done setting partition.
---- New Partition information ----
StatringOffset = 65536
PartitionLength = 4194304000
HiddenSectors = 128
PartitionNumber = 1
PartitionType = 7
You should now use Disk Manager to format this partition

В Windows 2008 разделы имеют отступ в 1 МБ по умолчанию. Это обеспечивает хорошую совместимость для систем хранения данных:
http://www.itcommunity.ru/blogs/mamyshev/archive/2008/11/14/36335.aspx.

Конференция ЕМС и Cisco "Центр обработки данных - ядро корпоративных информационных систем"

Статья содержит заметки, сделанные на конференции по решениям ЕМС и Cisco: "Центр обработки данных - ядро корпоративных информационных систем."
Программа мероприятия была довольно интересной. Мероприятие прошло в гостинице Holiday Inn Sokolniki.

Cisco

В коммутаторах Cisco Catalyst 6500 сейчас применяется технология объединения 2 шасси в одно виртуальное устройство VSS 1440. Позволяет реализовать ряд новых технологий, среди которых MEC (MultiChassis EtherChannel).

Коммутаторы для датацентров серии Nexus 7000, 5000, 2000, 1000V.
Nexus 7000 обладает потенциальной пропускной способностью в 15 Тб/с (потенциальная скорость шасси Catalyst 6500 - 2 Тб/с). Коммутационные матрицы, вставляемые в задней части устройства, позволяют реализовать от 92 до 230 Гб/с коммутационную пропускную способность на слот. Есть линейные карты в 32 порта по 10 Гб/с и 48 портов по 1 Гб/с.
Появилась модель Nexus 7000 с 18 слотами. Модель с 10 слотами обладает 8 разъемами для линейных карт и 2 разъемами для супервизоров.
Коммутатор позволяет реализовать технологию VDC (Virtual Device Context) - полностью виртуализовать устройства, получить несколько независимых виртуальных коммутаторов внутри одного аппаратного Nexus.
Коммутатор Catalyst 4948 рекомендуют ставить парой в стойку (тип размещения - top of rack), на уровень доступа в ЦОДах.
Catalyst 6500 рекомендуют савить для разнородного парка серверов в отдельный шкаф (тип размещения - end of raw).

Коммутатор Catalyst 4948 основан на Supervisor V и V-10G от коммутатора Catalyst 4500. Обладает 2 сменными блоками питания. Коммутатор неблокируемый, позволяет использовать jumbo-frame (до 9 КБ в кадре). Есть модель 4900M c восемью встроенными интерфейсами 10-GE и расширением до 8 10-GE c неблокируемой шиной или 16 10-GE c блокируемой шиной.

VBS Virtual Blade Switch - технология, позволяющая объединять до 8 blade switch в один virtual Switch.

Коммутатор Nexus 5000 - консолидирует порты ввода/вывода. Поддерживает FCoE, DCE, Priority-based Flow Control (аналог Buffer to buffer credit у Fibre Channel - отсылает паузу при заполнении буфера кадров), ETS (гарантия пропускной полосы). Позволяет реализовать MultiPath на втором уровне. Кадр FCoE размером 2197 байт, позволяет упаковывать кадр FC без фрагментации. В этом коммутаторе цена за порт нтерфейс 10-GE является одной из самых низких - около 900 $).

SFP+ (трансиверы с кабелем)- в кабель поставляется уже с запаенными трансиверами, поэтому получается сократить цену, самый короткий стоит 150 долларов.

Устройство Nexus 2000 - Fabric Extender. Используется только для расширения количества портов коммутатора Nexus 5000. Локально в Nexus 2000 коммутация не происходит, все идет через 5000. Размер Nexus 2148 - 1 RU. Все порты - 1 GE.

Nexus 1000V - программный коммутатор, устанавливается в ESX VMWare вместо штатного программного коммутатора. Ставится Virtual Ethernet Switch и Virtual Supervisor, управляется полноценная ОС NX-OS.

WAAS 4.1 позволяет оптимизировать WAN трафик путем создания кэша DRE, компрессии LZ, снижения количества транзакций у CIFS, NFS, MAPI, VIDEO, HTTP, SSL, Windows print.

2 устройства WAAS обнаруживают друг друга самостоятельно, специальной настройку друг под друга не требуют.

Кэш данных, сохраняемый на встроенном диске устройства, шифруется.
Есть решение WAAS mobile, позволяющее установить на ноутбуке пользователя клиентское приложение.

Линейка устройств - NME 302, 502, 522; WAE 512, 612, 7341, 7371.

EMC

NAS система Celerra с массивами CLARiiON CX4 нового поколения. Можно ставить EFD. Поддерживает WORM. Поддерживает диски SATA II с низким энергопотреблением. Модельный ряд - NS 120, 480, 960 и NS-G8.

Blade в презентации называют по-русски "файловым сервером", Virtual provisioning - "виртуальное выделение ресурсов".

В Celerra дедупликация идет как бесплатная функция. Но дедуплицирует на уровне файлов, а не блоков. Файл, не имеющий дубликатов, сжимается.
Текущие реализации технологии NDMP позволяют восстанавливать отдельные файлы, а не файловую систему.

Решение для резервного копирования Avamar. Позволяет сократить передаваемый трафик и занимаемое пространтство на дисках благодаря дедупликации данных на стороне клиентов. Быстро устанавливается. Используется для филиалов и подключений по WAN. Дедупликация осуществляется на основе анализа блоков переменной длины. Решение поставляется в следующих комплектациях: на сервере Dell или HP; в виде настроенной и готовой виртуальной машины; в виде ПО.
Ноды могут объединяться в RAIN. Скорость резервного копирования, которую удалось реализовать - 50-70 МБ/с. Лицензируется по объему хранения, а не по количеству клиентов.

InVista - виртуализует несколько массивов. Установлена в SAN коммутаторе или на отдельном сервере. Out-of-band. Позволяет использовать оборудование разных изготовителей (Cisco, Brocade). Хорошо масштабируется.

Материалы конференции - http://info.emc.com/mk/get/AMA00011681_AGENDA

Возможности и производительность разных типов RAID в дисковых массивах EMC.

Каждому уровню RAID свойственна особая утилизация ресурсов, производительность и степень защиты данных. Для индивидуальных нагрузок определенный тип RAID может показать ощутимое превосходство над другими типами.
Следует заметить, что количество групп RAID, которые можно сконфигурировать, зависит от максимального количества дисков, которые могут быть размещены в данной модели дискового массива.
Системы хранения CLARiiON поддреживают RAID уровней 0, 1, 3, 5, 6 и 1/0.


Характеристики полезного использования дискового пространства разными типами RAID.

Разные типы RAID имеют отличные уровни утилизации дискового пространства. Для определения требуемого типа RAID и количества дисков в нем необходимо определиться с требуемой емкостью, доступностью, производительностью во время нормального и перегруженного состояния и доступного к распределению числа дисков.
Для групп RAID с контролем четности отношение объема хранимых полезных данных к данным четности зависит от выбранного уровня RAID. Это отношение описывает число приводов внутри группы, выделенных для хранения четности и не используемых для хранения полезных данных. Отношение данных к четности (data-to-parity) зависит от числа приводов в группе RAID. Максимальное число дисков в группе составляет 16. Минимальное зависит от уровня RAID. Следует отметить ограниченное использование RAID групп с контролем четности и низким отнодением данных к четности с малым количеством дисков. Например, 4 дисковая RAID-группа (2+2) не рекомендуется.
Для групп RAID с контролем четности уровней 3 и 5 емкость эквивалентная одному приводу отводится для хранения данных четности, для групп RAID с контролем четности уровня 6 емкость эквивалентная двум приводам отводится для хранения данных четности.
В RAID уровня 5 и 6 отдельный диск не используется для хранения четности, в этих группах для хранения данных четности используются равные доли на всех дисках. В RAID уровня 3 существует отдельно отведенный диск, на котором хранятся данные четности
Взаимоотношение между группами RAID с контролем четности и остальными группами важно понимать при подготовке к работе системы хранения данных. Процент дисковой емкости в группах RAID с контролем четности, отведенной для ханения данных четности сокращается с ростом общего количества дисков в группе. Это позволяет более эффективно планиовать использование дискового пространства.
В группах RAID с зеркалированием полезная емкость равна половине общей емкости всех дисков в группе.
RAID 0 является специальным случаем. В этом типе RAID полезная емкость хранения равна общей форматированной емкости дисков в группе. Но RAID 0, предлагая самую высокую утилизацию дискового пространства, не обеспечивает защиту даных.
В общем случае, определенный процент свободного дискового пространства отводится для обеспечения доступности данных. Конфигурирование дисков в группу RAID с контролем четности позволит повысить полезный объем для хранения данных чем группирование дисков в RAID с зеркалиованием. При этом чем больше группа RAID с контролем четности, тем меньше процентов общей емкости хранения тратится на хранение данных четности. тем не менее производительность и доступность, в дополнение к емкости хранения, должны учитываться когда проектируются типы групп RAID.

Характеристики производительности разных типов RAID

Разные группы RAID имеют различную производительность и доступность в зависимости от выбранного типа RAID и количества дисков в группе. Для ряда однотипных нагрузок существуют определенные типы RAID и размеры групп, наиболее адекватно отвечающие создаваемой нагрузке, чем другие.

Когда использовать RAID 0

Не рекомендуется использовать RAID 0 для хранения данных имеющих ценность для бизнеса. Группы RAID 0 могут быть использованы для хранения некритичных данных, к которым нужна высокая скорость доступа (особенно на запись) и малая стоимость емкости хранения в ситуации, когда время на восстановление данных не повлияет на бизнес-процессы. Информация, находящаяся на RAID 0 должна быть уже сохранения в резервные копии или реплицирована в защищенную систему хранения данных. RAID 0 не имеет избыточности. Единичная поломка диска в группе RAID 0 приведет к полной потере данных во всей группе. Невосстановимое повреждение части поверхности диска группы может вызвать частичную потерю данных. Возможное использование групп RAID 0 для временного хранения или виртуальной памяти.

Когда использовать RAID 1

RAID 1 использовать не рекомендуется. Группы RAID 1 не обладают возможностью расширяться. Предлагается использовать группы RAID 1/0 (1+1) как альтернативу для RAID с единичным зеркалированием.

Когда использовать RAID 3

Для нагрузок, характеризуемых последовательным чтением больших блоков, RAID 3 позволяет увеличить скорость на несколько МБ/с относительно других типов RAID. RAID 3 является более предпочтительным при следующих условиях.

• Диски являются узким местом, например, когда на каждой внутренней петле находится небольшое их количество.
• Последовательные потоки больше чем 2 МБ.
• Файловая система не фрагментирована или используется «сырое» пространство хранилища.
• Размер блока 64 КБ или более.

RAID 3 может быть эффективно использован для приложений, сохранящих резервные копии данных на диск. В таком случае рекомендуется создавать группы по 4+1 или 8+1 дисков. Не рекомендуется использовать более чем 5 потоков записи резервных копий на LUN. В общем случае использование RAID 5 является более предпочтительным по сравнению с RAID 3. RAID 3 может быть использован для нагрузки ввода/вывода с высокой долей последовательной записи данных, т.к. RAID 3 может испытывать задержки вызванные диском с данными четности при случайной записи данных. Также при использовании нескольких групп RAID 3, активно использующих последовательное чтение по внутренней шине, шина может быстро стать узким местом и производительность групп RAID 3 не будет отличаться от производительности RAID 5.

Когда использовать RAID 5

RAID 5 рекомендуется для служб сообщений, анализа данных, средне-загруженных медиа сервисов, внедрений RDBMS в которых DBA эффективно использует механизмы «read-ahead» и «write-behind». Если ОС и HBA позволяют организовать передачи блоками больше чем 64 КБ, RAID 5 является хорошим выбором. Следующие приложения хорошо подходят для RAID 5.

• Случайная нагрузка с небольшим количеством IOPS на гигабайт.
• Высокая нагрузка со случайным вводом/выводом где записи составляют менее 30 % общей нагрузки.
• DSS базы данных, где применяется последовательный доступ (выполнение статистических анализов на записях о продажах, например).
• В любых таблицах RDBMS где размеры записей более 64 КБ и доступ случайных (например, персональные записи с двоичным содержанием, такие как фотографии).
• Для журналов RDВMS.
• Для приложений, работающих с сообщениями.
• Видео/медиа.

Когда использовать RAID 6


RAID 6 позволяет увеличить защиту от отказов носителей и одновременного двойного сбоя дисков в одной группе RAID 6. Этот тип RAID имеет сходную производительность, что и RAID 5, но требует больше места хранения для размещения дополнительной четности. Эта дополнительная емкость эквивалентна добавлению к группе RAID 6 дополнительного диска, который недоступен для хранения данных. RAID 6 может использоваться как альтернатива RAID 5, когда потребность в увеличенной надежности перевешивает потребности в доступном объеме. RAID 6 может содержать от 4 до 16 дисков. Маленькая группа - до шести дисков (4+2). Средняя группа - до 12 дисков (10+2), к большим группами относятся все оставшиеся. Маленькие группы хорошо справляются с потоковыми записями. Однако, маленькие случайные записи сохраняются медленно и могут неблагоприятно отразиться на эффективности системного кэша записи. Группы среднего размера хорошо работают для последовательной и для случайной рабочей нагрузки. Оптимальными группами RAID 6 являются 10 дисков (8+2) и 12 дисков (10+2).
Отношение данных к четности важная характеристика при выборе размера группы RAID 6. В каждой такой группе происходит потеря места для хранения данных, эквивалентное двум дискам. Дополнительно вычисление четности имеет влияние на операции ввода - вывода. Например, группа RAID 5 с пятью дисками (4+1) должна мигрировать в группу RAID 6 с шестью дисками (4+2) для сохранения аналогичной вместимости данных пользователя.

Сравнение производительности RAID 6 с RAID 5 и RAID 1/0.

Для случайных рабочих нагрузок, RAID 6 аналогичен RAID 5 в отношении операций чтения, когда используется то же число дисков. При случайной записи ситуация отличается. Дополнительный диск для четности у RAID 6 по сравнению с RAID 5 увеличивает рабочую нагрузку на шину на 50 процентов для записи. Это затрагивает работу CLARiiON при увеличении числа дисков. Кроме того, дополнительная вычислительная нагрузка RAID 6 может вести к заполнению кэша раньше чем в случае RAID 5. Однако, пока рабочая нагрузка может передаваться от кэша без принудительного сбрасывания на диск, RAID 5 и RAID 6 имеют сходное поведение с точки зрения времени ответа.
Для последовательных рабочих нагрузок с одинаковым числом дисков, при чтении поведение RAID 5 и RAID 6 почти идентично. Последовательные рабочие нагрузки при записи приблизительно на 10 процентов ниже для RAID 6. Однако, RAID 6 может перенести отказ двух любых дисков в группе. Это предоставляет более высокую доступность чем в группах RAID 1/0. Отказ в RAID 1/0 диска и его зеркального отражения будет фатальным для группы RAID 1/0. Так, RAID 6 имеет преимущество по вместимости и преимущество доступности по сравнению с RAIDУ 1/0, в то время как RAID 1/0 предлагает превосходящую производительность при записи маленькими блоками про сравнению с любыми типами RAID с контролем четности.
Из-за защиты от сбоев двух дисков группы RAID 6 хорошо удовлетворяют для заданного высокого приоритета восстановления, из-за их более высокой доступности. Если при восстановлении узким местом является единая общая шина, большая группа RAID 6 восстанавливается приблизительно на той же скорости как и большая группа RAID 5. Группа RAID 6 среднего размера требует приблизительно на 10 процентов дольше времени, чтобы восстановиться, чем группа RAID 5 с тем же числом дисков. Группа RAID 6 небольшого размера требует на 25 процентов больше времени чем группа RAID 5 того же размера. Когда группы RAID распределены равномерно по внутренним шинам, RAID 5 имеет преимущество в скорости перед RAID 6 для любого размера группы.

Практические правила для RAID 6

• Группы RAID 6 c 10 дисками (8+2) и 12 дисками (10+2) имеют хорошие отношения данных к четности, возможности ввода/вывода и потоковые характеристики. Группы этих размеров должны быть первыми кандидатами на внедрение.
• Группы RAID 6 c 16 дисками (14+2) имеют лучшее отношение данных к четности и масштабируют случайные рабочие нагрузки лучше. Однако группы такого размера не обрабатывают последовательные потоки лучше чем группы RAID 6 с 8 дисками (6+2), 10 дисками (8+2), и с 12 дисками (10+2).
• Группы RAID 6 c 6 дисками (4+2) имеют 20-процентное превосходство в IOPS чем RAID 5 с пятью дисками (4+1). Можно рассматривать использование таких групп как альтернативу с высокой доступностью группам RAID 5 (4+1), если нагрузка на чтение-запись не превышает возможностей дисков. Иначе предлагается использовать группу из 8 дисков (6+2).
• Непроизводительные расходы RAID 6 относительно RAID 5, особенно при наличии случайного доступа, нужно учитывать при выборе альтернативы. RAID 6 с 10 дисками (8+2) не сможет обслужить так много случайных записей как две группы RAID 5 из пяти дисков (4+1).
• Группы RAID 6 подвергаются «шинному балансированию». 10-дисковая (8+2) группа может быть равномерно распределена по двум дисковым полкам, расположенным на отдельных шинах, по пять дисков на одной полке. Группы RAID 6 c двенадцатью дисками (10+2) могут быть равномерно распределены по трем или четырем дисковым полкам на отдельных шинах.

Когда использовать RAID 1/0

RAID 1/0 обеспечивает лучшую работоспособность при рабочих нагрузках со случайным вводом – выводом маленьких фрагментов с большим количеством записей. Операциями с интенсивной записью считаются операции с более чем 30 процентами случайных записей. Некоторые примеры случайных, маленьких операций ввода/вывода:

• OLTP в высокой скоростью транзакций;
• большие решения по передаче сообщений;
• запись данных в режиме реального времени;
• RDBMS таблицы данных, содержащие маленькие записи, типа часто модифицируемых остатков на счете.
  

Тип RAID 1/0 позволяет получить преимущества в некоторых перегруженных режимах нагрузок. Эти режимы включают ситуации, когда кэш записи отключен или когда отказывает диск в группе RAID.

Балансировка внутренней шины группами RAID

При распределении используемых жестких дисков по всем внутренним шинам максимально равномерно можно получить увеличение производительности. В экстремальном случае каждый жесткий диск группы RAID находится на отдельной внутренней шине (иногда это упоминается как Vertical Provisioning). Такая конфигурация часто бывает невыполнима. Не все модели систем хранения данных имеют достаточное количество внутренних шин для такого типа распределения. Наконец, подготовка системы хранения данных этим способом требует больше времени на установку и обслуживание, такой тип конфигурации не рекомендуется.
Более простая и более практическая рекомендация состоит в распределении групп RAID по внутренним шинам максимально равномерно. В циклическом порядке распределяют каждую группу RAID на отдельной шине (это упоминается как Horizontal Provisioning). Большие группы RAID и группы RAID 1/0, используемые для высокой доступности выигрывают от распределения более чем по двум конечным шинам, как объясняется ниже.
Например, CX4-960 имеет восемь внутренних шин в одном процессорном блоке хранения, и данные, размещаемые в систему хранения, ожидаются с однородным вводом/выводом, что означает, что операции будут или все со случайным вводом/выводом или все с последовательным вводом/выводом. Если требуется разместить восемь групп RAID одинакового размера и ожидаемого типа загрузки IOPS, оптимально разместить одну группу RAID на каждую из шин процессора хранения. Исключением из этого правила будут неоднородные рабочие нагрузки. В этом случае доступные внутренние шины группируются для дисков, обслуживающих каждый тип ввода/вывода. Например, случайный ввод/вывод организуется на одной группе шин, и другая группа шин отводится для последовательных нагрузок.

Двойное владение диском

Возможность двойного монопольного использования любым процессором хранения жестких дисков поддерживается системами CLARiiON CX4.
Все жесткие диски имеют двойной интерфейс подключения и могут принимать ввод/вывод от обоих процессоров хранения одновременно.
Двойное использование может привести к менее предсказуемому поведению диска чем монопольное использование. Каждый процессор хранения работает независимо при выполнении запросов на любой диск. Двойное использование может подвергать диски более глубокому использованию очереди, что может привести к увеличению времени ответа чем в случае монопольного владения диском. Однако двойное использование допустимо в некоторых случаях. Например, при создании metaLUN с большими дисковыми пулами, двойное использование может потребоваться для равномерного распределения нагрузки по внутренним шинам.
В общем случае, монопольное использование диска предпочтительно. Однако, если требуется добиться максимальной производительности при распределенных данных, диски могут быть конфигурированы с двойным использованием.

Источник - EMC CLARiiON Performance and Availability: Release 28.5 Firmware Update. Applied Best Practices.

Семинар по продуктам VMWare

Вводные данные.

Продукты VMWare в компании OCS курирует Алексей Симинихин.
В связи со всемирным кризисом, VMWare опустило цены на свои продукты к уровню августа – отменили 10% поднятие цен.
За работу с партнерами в VMWare сейчас отвечают Антон Антич (Директор по работе с партнерами, aantich@vmware.com), Виталий Савченко (Консультант по решениям) и Дмитрий Тихович (Консультант по решениям). Общий адрес - channel-russia@emc.com.

Одно из главных преимуществ продуктов виртуализации – в снижении параметров OPEX (operating expense - операционные расходы, например снижение потребления энергии).
Примитивный расчет преимуществ использования Virtual Infrastructure (VI) –
В обычной ситуации - закупка 10 физических серверов по 3500 $ и ОС - итого 50 000 $.
С продукцией VMWare - закупка 2 мощных физических сервера по 10000 $ и VI3 Enterprise за 7000 $ и ОС - итого те же 50 000 $ но возможность запустить и использовать значительно большее количество виртуальных серверов. Для продавца выше маржинальная отдача.

Безопасность.

Сторонние разработчики выпускают продукты по автоматической проверки корректности настроек гипервизоров VMWare. Tripwire Config check for ESX -
Бесплатная утилита по проверке корректности общих настроек сервера ESX, а также настроек его безопасности.

http://www.tripwire.com/configcheck/configcheckdownload.cfm



Стали появляться virtual appliance с установленными системами IPS и FW от произовдителей IBM, Check Point, Stone Soft. Эти устройства копируются на сервер и конфигурируются в разрыве между сетью и продуктивными виртуальными серверами.

VMSafe - технология обеспечения безопасности в среде продуктов VMWare. Технология интегрирована в гипервизоры.

Виртуальные рабочие места.

По общим операционным издержкам наибольшее количество ресурсов тратится на обслуживание рабочих мест персонала.
VDI (Virtual Desktop Infrastructure) позволяет снизить OPEX рабочих мест.
Теперь этот продукт называется VMWare View.
VMWare Composer - позволяет в среде виртуальных рабочих место создавать одну золотую копию типового рабочего места и далее на каждое виртуальное рабочее место создается разностная копия этого первичного рабочего места и специфичных пользователю настроек и программ. При этом значительно экономится объем диского пространства, занимаемого данными.
Позволяет экономить до 80% дискового пространства. Позволяет устанавливать обновления на ОС непосредственно на золотой образ.
По приблизительной оценке стоимость хранения 1 ТБ данных на hi-end массиве в течение 5 лет составляет около 100 000 $. При такой стоимости применение золотой копии рабочих мест является особенно оправданным.

ThinApp - технологическое решение, позволяющее виртуализовать приложения. Аналог - виртуальные пузыри (bubble) у виртуальной инфраструктуры Microsoft.
Решение не требует установку агентов, приложение передается по сети в виде .exe файла.

Реализована функция виртуальной печати - технология SANPrint. Не требует установки драйвера печатающего устройства. Все драйверы установлены на одной машине, к которой подключен физически сам принтер.

К новинкам относится автономный рабочий стол - виртуальная машина, которая переносится между физической рабочей станцией, ноутбуком и рабочим гипервизором. При этом сотрудник всегда работает в одной среде.

RDP, используемый в вреде виртуальных рабочих станций, переработан. Теперь можно настраивать и пользоваться несколькими мониторами в полноценном режиме.

У Microsoft есть типы лицензирования рабочих ОС, позволяющие снизить затраты при развертывании виртуальной инфраструктуры.

При переносе рабочей среды с физической машины на виртуальную иногда возникают затруднения с повторной активацией ОС. При этом рекомендуется пользоваться активацией по телефону.

Управление ESX.

VIMA - VI management assistant - appliance, является заменой консоли ESX. В будущих версиях VI консоль будет убираться и произойдет ее полна замена на готовую виртуальную машину управления.

Ко всем гипервизорам и виртуальным машинам сервера ESX можно подключаться по WEB-интерфейсу, без установки VI-клиента.

Veeam Reporter - сторонняя утилита, позволяет выполнять удобную и наглядную инвентаризацию виртуальных машин.

http://www.veeam.com/vmware-esx-reporting_enterprise.html




К выпуску планируется Power Path для виртуальных машин.

Решение Site Recovery Manager позволяет реализовать катастрофоустойчивое решение с 2 ЦОДами и быстро провести восстановление среды на виртуальных машинах при аварии части инфраструктуры или всего основного ЦОДа.

Дедупликация данных

Технология дедупликации данных сейчас стала активно применяться в продуктах и устройствах, связанных с хранением, резервным копированием и передачей данных по каналам глобальных сетей.
Этот механизм позволяет значительно сократить место на дорогостоящих дисковых массивах, занимаемое данными или сузить полосу пропускания, занимаемую передаваемыми данными.
В случае устройств хранения этот механизм востребован на рынке дисковых библиотек - специализированных дисковых массивов, на которых хранятся резервные копии продуктивных данных. Это такие устройства, как:

• EMC DL3D 1500, DL3D 3000;
• Sepaton S2100-ES2;
• HP D2D2500, D2D4000, VLS6000, VLS9000;
  
• IBM TS7650G, Data ONTAP;
• Hitachi Virtual Tape Library Appliance 1000E, 1000L, 500M
• и др.

В понятии дедупликации интересно обратить внимание на технологии, с помощью которых добиваются удаления дубликатов данных и условий применения этих технологий.

Когда говорится о степени сжатия данных и сокращении пространства хранения необходимо учитывать какой тип данных будет сохранятся. Первая полная резервная копия позволяет сократить объем занимаемого пространства на накопителе благодаря дедупликации в 2 - 4 раза. Дальнейшие инкрементальные копии возможно дедуплицировать в 6 - 7 раз. И только дальнейшие полные резервные копии возможно сократить в 50 - 60 раз.

Не следует путать технологии "Single-Instance Storage (SIS)" и "Deduplication". SIS является механизмом сокращения количества данных, но не является дедубликацией. SIS работает на файловом уровне и позволяет не сохранять дубликаты файлов, в хранилище уникальный файл сохраняетя один раз, далее сохраняются ссылки на него.

Следует различать технологии "Block-level deduplication" и "Variable segment deduplication". Если блоки данных не изменились, но переместились внутри структуры файла, то в случае технологии Variable segment deduplication остается возможность дедуплицировать измененный файл. Если применяется первая технология, анализирующая фиксированные блоки данных, измененный файл будет рассматриваться как новый и его блоки будут сохраняться дополнительно.

На скорости восстановления и резервного копирования может оказать существенное значение фрагментация данных - чем она выше, тем больше времени будет тратиться на указанные операции. Это надо учитывать при планировании систем.

Эта полезная информация почерпнута с ресурса www.SearchStorageChannel.com.

EMC Networker Training

В статье приводятся заметки, сделанные на недельном курсе, посвященном системе резервного копирования EMC Networker, принадлежавшей ранее компании Legato. Ныне Legato является частью компании EMC.


EMC Networker, версия 6.14

Дополнительно основному дистрибутиву ставятся руководства и Legato Manager.
На все машины ставится клиентский софт, на node еще ставится starage node, на server помимо этого еще ставится серверные компоненты.

Вся база СРК хранится на севере для единого бекапа.

Файлы типа Cfi (client file identification) нужны для восстановления настроек клиента. Хранятся также на сервере.

База данных с информацией называется Wiss – bliss (Basic legato information storage system).

18 экзабайт – техническое ограничение хранилища, которое может поддерживать Networker.

Media db – это база, содержащая информацию где находится файл и сколько места он занимает.

Res – база данных ресурсов, хранит конфигурацию ПО для клиента, сервера и узла хранения.

СРК Networker используется, в основном, в датацентрах, т.к. дорога для рабочих станций.

Networker пытается сделать 20 циклов записи – чтения, если все неудачны, то носитель помечается как битый.

Xdr формат из SAN – трансформирует данные в общий формат. External data representation.

Find mark – данные, записываемые на магнитной ленте после 32-кбайтного лейбла, содержат информацию, где находятся данные РК.

Tape –
Label – fmk – label – fmk – fmk ___________________-bot Leot. eot


При лицензировании происходит ограничение пробной версии, в которой изначально возможно все.

Клонирование – перенос только ссылок на новый носитель. Том остается старым. Это значить что проистходит копирование не носителя а логических блоков на носителе.

Пулы используются для реализации одновременной записи и чтения (архивации и восстанвления).

В директорию дебаг можно добавлять файлы нулевой длины для регулирования сетевых потоков.

Нетворкер.лог хранит лог только действий, выполненных в графической оболочке. Полный лог хранится в файле демон.лог

Файлы конфигурации можно переместить на другую машину и там протестировать конфигурацию.

Можно манипулировать содержимым файлов вручную.
На узле архивирования запущен listener, ожидающих команду от сервера.

Все имена серверов, клиентов, узлов должны разрешаться или в DNS или быть записаны в файл HOSTS локальной машины.

Nsrd – серверный процесс.
Nsrmmd – node.
Nsrexecd – client process.

Весь траблшутинг следует вести из командрой строки. Все файлы находятся в директории nsr – как в linux.

Tdocs –Support page - ftp.legato.com/pub/NetWorker/German - документация на немецком.

Экзамены – e22-128 – Specialist – нужен продолжительный опыт работы с ПО.
e22-128 – Administrator - довольно простой.

Nsradmin – командный интерфейс управления администратором. Нет документации.

Nmc – интерфейс управления на Java. Большой – до 200 МБ. Хотя сама программа управления в старых версиях 8 МБ.

EMC Networker, версия 7.4

Jukebox – библиотека с лентами. Упрвляется демоном nsrlcpd.

Nmc использует порты 9000 9001 для присоединения клиента к серверу Java.

Параллелизм – до 512 потоков. Зависит от лицензии. Не важно – восстановление или сохранение. Считаются потоки.

Data zone passphrase – пароль для соединения по ssl для резервного копирования.

Для использования архивирования надо иметь дополнительную лицензию

Директивы – скрипт поведения нетворкера во время бекапа.

<<>>
Directive: site(s)

+ - опустить операцию для нижеследующих путей.

Директивы – список исключений для usm сервиса. Директивы локальные и глобальные.
Logasm – сохраняет логи сервера прикопировании остальных бекапов в исходном виде, независимо от изменения ими размера при копировании другой инфы. Информация о директивах содержится в cookbook.

Smtpmail – программа не поддерживаемая, требует разные лицензии. Для оповещения по notification лучше пользоваться своей почтовой программой из командного интерфейса.

Есть коды для пробной версии на 45 дней. Можно запросить у EMC. Если в Auth code ввести "grace" – прибавится еще 15 дней.


Host id – на нем основывается лицензирование. У Windows – sid , у unix – в железке зашита. Linux – ip address.
При смене host id надо менять auth code.

Если не применить расписание, выполняется полное архивирование каждый день.

В расписании дифференциальное копирование указано уровнями 1 - 9.

Уровни делают дифференциальный бекап если распологать их друг после друга в порядке убывания – 5 4 3 2 1. они будут обращаться к последнему с меньшим числом. Фулл – 0 отметка. Скорее всего к нему. Если расположить 4 5 то 5 будет инкрементальным – бекап того, что изменилось после 4 бекапа. Обращается к меньшему номеру за отправную точку бекапа. Юниксовая манера. Т.о. 054321 – дифференциальный 012345 – инкрементальный.

Консолидация проверяет большой ли по длине инкрементальный хвост, прибавляемый к фул бекапу.

Стейджинг – создание КЭШа при копировании бекапа на носитель.

User groutps в административной консоли могут обращаться к домену.

Nsrinfo Mminfo -команда для получения информации о состоянии savesets. Около 100 параметров, сложная, полезная.

Save set – all сохранить все, или вводить пути к сохраняемым данным вручную.

Properties for client.
Remote user & password – для dos и net ware – устаревшие системы. Нет учетной записи суперпользователя.

Ndmp – network data management protocol

Savepsm – команда для бекапа базы данных

Filer – pc + storage via FiberChannel. Простая система с софтом около 10 мб. Предоставляет простой файловый сервис в сеть. Обслуживает любые операционные системы. Нельзя ничего больше поставить. Использует механизм ndmp.

Server network interface – вводится в многоинтерфейсных машинах.

Remote access – пользователи для восстановления информации

Сжатие данных на пленке может привести к тому, что индикатор укажет 100 процентов емкости, при этом данные могут поступать далее.

У устройств-файлов может быть 0% заполненность если не указать в настройках их максимальную емкость.

\\.\Tape0 - имя физического ленточного устройства в виндах.

Adv-file – позволяет писать и читать в файл архива одновременно. Фактически дублируется сохраняемая информация. Один файл для записи, другой для чтения.

Savesgrp- проводит ручной бекап группы с клиента.

Добавить задание из гуи nmc можно с помощью программы nwwiz.exe (configuration – start client wizard). Создается группа, добавляются настройки задания.

Pool определяет какие хранилища использовать для бекапа.

Пул выбирается по отбору из группы, клиентов, сэйв сетс, левелс. Если неверное совпадение по порядку, то отправляется в дифолтный пул. Может быть указано несколько параметров в группе, клиенте… – совпадение одного считается достаточным.

Не выделять в пуле устройства. Тогда возможно будет использовать любой пул для сохранения информации. Иначе в случае выхода из строя устройства пул перестанет работать.

C:\\Temp\\123 – обозначение save set. Такая нотация в обозначении настроек пулов. Запомнить, иначе работать не будет.

Бекап начатый с сервера не может быть уровня manual. Процесс клонирования может демультиплексировать запись на носителе.

Базы данных системы - bliss and wiss. Последняя – bliss. В блисс введены client id – шестнадцатеричное число.

Архивирование должно быть запущено до бекапа.
У wiss ограничение в 2 гига. Bliss не надо сжимать и очищать. Она всегда полна на 100%.

Можно вручную работать с базой, например добавлять информацию, удалять, изменять.

Mminfo – самая важная командра нетворкера. Изучить ман. Все команды для запроса описаны в Мане.

Полиси применяется до бекапа.

Mminfo –q “ssid=24114” –r “ssid,”

Nsrmm –d volume – удаляет том из медиа индекса.

Nsrmm –o ……. – меняет статус.

Nsrls – запрос размера базы cfi.

nsrmm -w "01/01/2008" -e "01/01/2009" -S 3975900206 – смена времени browsable и retention – для определенного ssid.

savepnpc – метод сохранения файлов чере скрипт.

Nsrclone – клонирование имеющихся сохраненных данных на носителе.