Мы рассматриваем возможность создания сервера хранения ~ 16 ТБ. На данный момент мы рассматриваем как ZFS, так и XFS в качестве файловой системы. Каковы преимущества, недостатки? Что мы должны искать? Есть ли третий, лучший вариант?
filesystems
storage
zfs
xfs
Тамас Чинеге
источник
источник
Ответы:
Я обнаружил, что XFS лучше подходит для очень больших файловых систем с большим количеством больших файлов. У меня есть работающая файловая система XFS 3,6 ТБ уже более 2 лет без проблем. Определенно работает лучше, чем ext3 и т. Д. При таком размере (особенно при работе со многими большими файлами и большим количеством операций ввода-вывода).
С ZFS вы получаете пул устройств, чередование и другие расширенные функции, встроенные в саму файловую систему. Я не могу говорить о деталях (я позволю другим комментировать), но из того, что я могу сказать, вы хотели бы использовать Solaris, чтобы получить максимальную выгоду здесь. Мне также неясно, насколько ZFS помогает, если вы уже используете аппаратный RAID (как и я).
источник
xfs_fsr«дефрагментация».ZFS даст вам преимущества, помимо программного RAID. Структура команд очень продуманна и интуитивно понятна. Также есть сжатие, моментальные снимки, клонирование, отправка / получение файловой системы и устройства кэширования (эти новые модные SSD-диски) для ускорения индексации метаданных.
Сжатие:
Он поддерживает простые для создания копий при записи снимки, которые можно смонтировать:
Клонирование файловой системы:
Файловая система отправки / получения:
Инкрементная отправка / получение:
Кеширующие устройства:
Это всего лишь верхушка айсберга, я очень рекомендую попробовать установить Open Solaris и попробовать его.
http://www.opensolaris.org/os/TryOpenSolaris/
Изменить : Это очень старый, Open Solaris был прекращен, лучший способ использовать ZFS, вероятно, на Linux или FreeBSD .
Полное раскрытие: раньше я был архитектором систем хранения данных Sun, но я не работал на них более года, я просто в восторге от этого продукта.
источник
http://opensolaris.org/os/TryOpenSolaris/использование моментальных снимков lvm и xfs в живых файловых системах - это путь к катастрофе, особенно при использовании очень больших файловых систем.
Последние 6 лет я работал исключительно на LVM2 и xfs на своих серверах (дома, даже если zfs-fuse просто слишком медленный) ...
Однако я больше не могу сосчитать различные режимы сбоев, с которыми я столкнулся при использовании снимков. Я вообще перестал их использовать - это слишком опасно.
Единственное исключение, которое я сделаю сейчас, - это мое личное резервное копирование почтового сервера / веб-сервера, где я буду делать резервные копии на ночь, используя кратковременный снимок, который всегда равен размеру исходного fs, и сразу после этого удаляется.
Самые важные аспекты, о которых следует помнить:
источник
Еще пара вещей, о которых нужно подумать.
Если диск умирает в аппаратном RAID-массиве независимо от файловой системы, которая находится поверх него, все блоки устройства должны быть перестроены. Даже те, которые не содержат никаких данных. ZFS, с другой стороны, является менеджером томов, файловой системой и управляет избыточностью и чередованием данных. Таким образом, он может разумно перестраивать только те блоки, которые содержат данные. Это приводит к более быстрому восстановлению, чем при заполнении тома на 100%.
ZFS имеет фоновую очистку, которая гарантирует, что ваши данные остаются согласованными на диске и устраняет любые проблемы, которые они обнаруживают, прежде чем это приведет к потере данных.
Файловые системы ZFS всегда находятся в согласованном состоянии, поэтому нет необходимости в fsck.
ZFS также предлагает больше гибкости и возможностей благодаря своим снимкам и клонам по сравнению со снимками, предлагаемыми LVM.
Запустив большие пулы хранения для производства видео большого формата в стеке Linux, LVM, XFS. Мой опыт показывает, что легко попасть в микро-управление вашим хранилищем. Это может привести к большому количеству неиспользованного выделенного пространства и времени / проблем с управлением логическими томами. Это может не иметь большого значения, если у вас есть администратор хранилища с полной занятостью, задачей которого является микроуправление хранилищем. Но я обнаружил, что подход к хранению в пуле ZFS устраняет эти проблемы управления.
источник
ZFS абсолютно потрясающая. Я использую его в качестве домашнего файлового сервера для файлового сервера HD 5 x 1 ТБ, а также использую его в производстве с почти 32 ТБ места на жестком диске. Это быстрый, простой в использовании и содержит некоторые из лучших средств защиты от повреждения данных.
Мы используем OpenSolaris на этом сервере, в частности, потому что мы хотели получить доступ к новым функциям и потому что он предоставил новую систему управления пакетами и способ обновления.
источник
Какую ОС вы планируете запустить? Или это другая часть рассмотрения? Если вы используете Solaris, насколько я знаю, XFS даже не вариант. Если вы не используете Solaris, как вы планируете использовать ZFS? Поддержка ограничена на других платформах.
Если вы говорите о сервере Linux, я бы лично остановился на Ext3, хотя бы потому, что он проходит большую часть тестирования. zfs-fuse еще очень молод. Кроме того, однажды у меня были проблемы с XFS, когда ошибка приводила к повреждению данных после обновления ядра. Преимущества XFS по сравнению с Ext3 определенно не перевешивают затраты, связанные с восстановлением компьютера, расположенного в удаленном центре обработки данных.
источник
Я не думаю, что вы должны сосредоточиться на производительности. Безопасны ли ваши данные с XFS, ext4 и т. Д.? Нет. Прочтите эти кандидатские и научные работы:
XFS не защищена от повреждения данных: pages.cs.wisc.edu/~vshree/xfs.pdf
И не ext3, JFS, ReiserFS и т.д .: zdnet.com/blog/storage/how-microsoft-puts-your-data-at-risk/169?p=169&tag=mantle_skin%3bcontent «Я натолкнулся на увлекательную диссертацию PhD Виджаяна Прабхакарана, IRON File Systems, который анализирует, как пять файловых систем журналирования товаров - NTFS, ext3, ReiserFS, JFS и XFS - решают проблемы хранения.
В двух словах он обнаружил, что все файловые системы имеют
Но ZFS успешно защищает ваши данные. Вот исследовательский документ по этому вопросу: zdnet.com/blog/storage/zfs-data-integrity-tested/811
источник
Не ориентированный на FS ответ, извините, но имейте в виду, что некоторые контроллеры дисков не будут иметь дело с> 2 ТБ LUNS / логических дисков - это может немного ограничить организацию вашего хранилища. Я просто хотел, чтобы вы знали об этом, чтобы вы могли проверить всю систему до конца, чтобы убедиться, что она будет работать с 16 ТБ.
источник
Это зависит от того, какие функции вы хотите ..., два разумных выбора - xfs и zfs, как вы сказали, код xfs довольно хорошо протестирован, я впервые использовал его 8 лет назад под IRIX
Можно получить снимки с xfs (используя lvm и xfs_freeze)
Возможно иметь отдельное лог-устройство, например SSD
Большие xfs традиционно требуют много памяти для проверки
Проблема с появлением нулей была функцией «безопасности», которая, я думаю, исчезла некоторое время назад.
источник
Помимо того, что уже упоминалось, с точки зрения производительности xfs на базе MD raid работает лучше, чем zfs на потоковой передаче мультимедиа. Я использовал то же самое оборудование в течение полувека с xfs и примерно столько же времени с zfs на своем медиасервере. На Intel Atom 330 с xfs у меня никогда не возникало стутера, на zfs на сложных сценах такое же оборудование не успевает и начинает сбрасывать кадры.
источник
Вместо того, чтобы строить свой собственный, альтернативой является Sun 7410 aka Toro. Он имеет очень полезное программное обеспечение, которое поставляется вместе с решением.
источник
Ну, ребята, давайте не будем забывать о последнем дополнении к zfs: дедупликация. И давайте поговорим о совместном использовании iscsi, nfs или smb. Как уже говорили другие, экспорт файловых систем zfs, снимков, контрольной суммы блоков raidz (= raid5), ширины динамической полосы, управление кешем и многие другие. Я голосую за ЗФС.
источник