4

У меня есть раздел в формате zfs, использующий zfs-fuse для Linux (Ubuntu).

Я использовал его некоторое время, а затем включил дедупликацию и сжатие (zfs setression = on/dedup = on). Теперь я думаю, что у меня есть файлы с дедупликацией и сжатием, и файл, которого еще нет.

Это было хорошо, но иногда я был смущен. Давайте посмотрим, следующая команда будет занимать почти 4 ГБ моего хранилища zfs:

cp oldfile.4GB newfile.4GB

.. и это будет потреблять почти ноль:

cp newfile.4GB newfile.4GB.2

Это потому, что старый файл еще не сжат, поэтому, я думаю, дедупликации не произошло.

Моя идея - если я могу найти старые файлы, которые еще не дедуплицированы / не сжаты, я могу выполнить их пакетное копирование / переименование / удаление, чтобы устранить дублирование и избыточность. Но как я могу это проверить?

Я знаю, что могу переписать все содержимое моего хранилища, должно работать (даже лучше с проверкой отметки времени каждого файла), но я был бы счастлив, если бы у меня был zfsstat подобный инструмент, который показывает некоторые свойства файла.


РЕДАКТИРОВАТЬ: проверенный совет jlliagre по моей среде.

First, made some dataset and directories:
$ sudo zfs create zfs/test
$ sudo install -d -m 1777 /zfs/test/orig /zfs/test/copy

Created some files:
$ yes > /zfs/test/orig/yes.1s & sleep 1; kill %1
$ dd if=/dev/zero of=/zfs/test/orig/zero.1M bs=1K count=1024
$ dd if=/dev/urandom of=/zfs/test/orig/rand.1M bs=1K count=1024

Turned compression on, and copy above files:
$ sudo zfs set compress=on  zfs/test
$ cp /zfs/test/orig/* /zfs/test/copy

Now the directories look like:
$ ls -hil /zfs/test/*
/zfs/test/copy:
total 1.5K
10 -rw-r--r-- 1 kimura kimura 1.0M Mar  2 01:30 rand.1M
11 -rw-r--r-- 1 kimura kimura  40M Mar  2 01:30 yes.1s
12 -rw-r--r-- 1 kimura kimura 1.0M Mar  2 01:30 zero.1M

/zfs/test/orig:
total 42M
9 -rw-r--r-- 1 kimura kimura 1.0M Mar  2 01:29 rand.1M
7 -rw-r--r-- 1 kimura kimura  40M Mar  2 01:29 yes.1s
8 -rw-r--r-- 1 kimura kimura 1.0M Mar  2 01:29 zero.1M

And zdb tool shows some information:
kimura@kimura-desktop:~$ sudo zdb zfs/test 
Dataset zfs/test [ZPL], ID 196, cr_txg 108306, 44.2M, 12 objects

    Object  lvl   iblk   dblk  dsize  lsize   %full  type
         0    7    16K    16K    16K    16K   37.50  DMU dnode
        -1    1    16K    512     1K    512  100.00  ZFS user/group used
        -2    1    16K    512     1K    512  100.00  ZFS user/group used
         1    1    16K    512     1K    512  100.00  ZFS master node
         2    1    16K    512     1K    512  100.00  ZFS delete queue
         3    1    16K    512     1K    512  100.00  ZFS directory
         4    1    16K    512     1K    512  100.00  ZFS directory
         5    1    16K    512     1K    512  100.00  ZFS directory
         6    1    16K    512     1K    512  100.00  ZFS directory
         7    3    16K   128K  39.8M  39.8M  100.00  ZFS plain file
         8    2    16K   128K  1.00M     1M  100.00  ZFS plain file
         9    2    16K   128K  1.00M     1M  100.00  ZFS plain file
        10    2    16K   128K  1.00M     1M  100.00  ZFS plain file
        11    3    16K   128K  1.41M  39.8M  100.00  ZFS plain file
        12    2    16K   128K      0   128K    0.00  ZFS plain file

Я вижу, что "да" и "ноль" хорошо сжаты.

1 ответ1

5

Вы можете получить общую статистику дедупликации с помощью команды zdb -D poolname .

Для статуса сжатия каждого файла это не очень просто, но вы можете использовать это:

zdb dataset | grep plain

Это выведет строки, похожие на эти:

     8    2    16K   128K  3.03M  5.00M  100.00  ZFS plain file
     9    2    16K   128K  3.03M  5.00M  100.00  ZFS plain file
    10    2    16K   128K  5.00M  5.00M  100.00  ZFS plain file
    11    2    16K   128K  3.03M  6.00M   83.33  ZFS plain file

В первом столбце указан номер индекса, в столбцах 5 и 6 указан размер диска и размер файла, а в столбце 7 указан процент реально существующего файла. Любой файл с разными значениями в 6 и 7 и 100% как 8 сжимается.

Всё ещё ищете ответ? Посмотрите другие вопросы с метками .