В этой статье мы покажем, как использовать SSD диск в качестве кэширующего устройства для двух SATA дисков, объединенных в RAID 1 на сервере с CentOS Linux на примере LVM Cache. В такой конфигурации кэширующее и кэшируемое устройство должно входить в одну группу томов LVM , а отключение/включение кэша можно выполнять без на ходу без без перезагрузок и перемонтирования.
После установки ОС на RAID1 из двух SATA дисков, мы подключили отдельный SSD диск на 240 Гб. Проверим, что он доступен:
# fdisk -l
С помощью менеджера пакетов установите утилиту lvm2, которая будет использоваться для реализации кэша .
# yum install lvm2 -y
После установки ПО, нужно определить блочное устройство SSD-диска и раздел, к которому примонтирована нужная директория. В моем случае это будет директория home, раздел для которой я создал при установке ОС.
Директории /home соответствует раздел /dev/md126p2 . Обратите на это внимание, так как дальнейшая настройка будет связана именно с этим разделом.
Теперь можно перейти к настройке кэша. Отмонтируйте директорию:
# umount /home
Для создания кэширующего SSD устройства выполните следующие команды
# pvcreate /dev/md126p2
# pvcreate /dev/sdb
# vgcreate ssdcache /dev/md126p2 /dev/sdb
# lvcreate -l 100%FREE -n hdd_data ssdcache /dev/md126p2
# lvcreate -L 16G -n ssd_meta ssdcache /dev/sdb
# lvcreate -l 90%FREE -n ssd_data ssdcache /dev/sdb
# lvconvert --type cache-pool --poolmetadata ssdcache/ssd_meta ssdcache/ssd_data
# lvconvert --type cache --cachemode writeback --cachepool ssdcache/ssd_data ssdcache/hdd_data
Описание команд:
-
pvcreate
— инициализирует физический том для LVM -
vgcreate
– создать группу томов -
lvcreate -l
– создать логический том, размер тома указывается в процентах -
lvcreate -L
– создание логического тома с метаданными для кэша -
lvconvert
— объединяем кэш-пул и логический том через метаданные. Задаем режима кеширования, в нашем случае writeback .
Есть два режима кеширования:
- Writeback — данные сначала пишутся в кэш, затем на диск. Это более производительный вариант. При сбое кэширующего SSD диска, вы потеряете данные, которые не успели записаться на HDD. Хотя и не рекомендуется использовать этот режим на серверах с SSD без RAID, мне кажется с учетом надежности SSD дисков, это вполне рабочее решение.
- Writethrough — данные сразу пишутся одновременно на диск и в кэш, после чего наиболее часто используемые попадают в кэш. Это безопасный вариант, подходит для серверов с 1*SSD, но гораздо менее производительный.
После выполнения всех настроек, можно проверить кэш на наличие ошибок:
# lvs -a
Если ошибок нет, значит вы все сделали верно. Данная команда покажет процент использования кэша. На данный момент размер кэша будет чуть практически нулевой.
Теперь создадим файловую систему на новом LVM разделе:
# mkfs.ext4 /dev/ssdcache/hdd_data
После создания раздела, нужно определить его UUID, чтобы заменить его в fstab :
# blkid|grep cache
/dev/mapper/ssdcache-hdd_data: UUID="a89f0bb8-7bb2-4d83-87e2-39918154135b" TYPE="ext4"
Заменяем в /etc/fstab
# nano /etc/fstab
После замены UUID в fstab для нужного раздела, перезагрузите сервер и проверяем текущие настройки:
# df -h
Чтобы узнать текущий режим работы SSD кэша, используйте команду:
# lvs -o+cache_mode ssdcache
Для смены режима, используются команды:
# lvchange --cachemode writeback ssdcache
# lvchange --cachemode writethrough ssdcache
Если вам нужно заменить SSD диск, обязательно нужно удалить кэш:
# lvconvert --uncache /dev/ssdcache/hdd_data
# lvremove /dev/ssdcache/ssd_meta
# vgreduce ssdcache /dev/sdb
# pvremove /dev/sdb
После этого вы смело можете отключить сервер, заменить диске и добавить кэш заново с помощью следующих команд:
# pvcreate /dev/sdb
# vgextend ssdcache /dev/sdb
# lvcreate -L 16G -n ssd_meta ssdcache /dev/sdb
# lvcreate -l 90%FREE -n ssd_data ssdcache /dev/sdb
# lvconvert --type cache-pool --poolmetadata ssdcache/ssd_meta ssdcache/ssd_data
# lvconvert --type cache --cachemode writeback --cachepool ssdcache/ssd_data
На этом работа по настройке SSD-кэширования окончена. Определить скорость работы ssd-кэша обычными утилитами для замера операций чтения/записи, невозможно. Скорость будет такая же как на обычном SATA диске, но это все из-за специфики работы кэша, как ранее мы описывали, он срабатывает именно для “горячих” данных. При тестировании работы в различных приложениях, повышение скорости действительно ощутимо, где-то в 3-4 раза.