Re[2]: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Vladimir Sharun
fsck для UFS необязателен. ext4 - журналируемая fs, сравнивать её с UFS с отключенным журналом нет смысла. Вы, вероятно, еще не сталкивались с ситуациями журнал поврежден, необходим полный fsck. В случае, когда журнал не поврежден, действительно, всё ок. Я говорю о ext4 и ufs/su+j.

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 15:53, Vladimir Sharun wrote: fsck для UFS необязателен. ext4 - журналируемая fs, сравнивать её с UFS с отключенным журналом нет смысла. Вы, вероятно, еще не сталкивались с ситуациями журнал поврежден, необходим полный fsck. В случае, когда журнал не поврежден,

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene V. Boontseff
On 03.02.2014 12:58, Eugene Grosbein wrote: On 03.02.2014 15:53, Vladimir Sharun wrote: fsck для UFS необязателен. ext4 - журналируемая fs, сравнивать её с UFS с отключенным журналом нет смысла. Вы, вероятно, еще не сталкивались с ситуациями журнал поврежден, необходим полный fsck. В

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 16:05, Eugene V. Boontseff wrote: А я и на gjournal сталкивался. Правда, там где разбиение разделов поверх gjournal. Так нельзя. gjournal рассчитан на отдельный журнал на каждую fs.

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Anton Yuzhaninov
On 02/03/14 10:44, Vladimir Sharun wrote: fsck может длиться бесконечно долго на ufs и в итоге можно получить в процессе fsck (хорошо еще если не в процессе repair'а) еще один крэш и потерять еще стопицот часов на downtime, копируя файлы со смонтированной RO FS. fsck длится бесконечно долго

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene V. Boontseff
On 03.02.2014 13:05, Eugene V. Boontseff wrote: On 03.02.2014 12:58, Eugene Grosbein wrote: On 03.02.2014 15:53, Vladimir Sharun wrote: fsck для UFS необязателен. ext4 - журналируемая fs, сравнивать её с UFS с отключенным журналом нет смысла. Вы, вероятно, еще не сталкивались с ситуациями

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 16:30, Eugene V. Boontseff wrote: Я про это читал в рассылках уже после того, как сделал на домашней машине. Но так и не понял, почему так нельзя. И где в документации сказано, что так нельзя. В документации это явно не сказано. Я спросил непосредственно у автора и получил

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 16:14, Vladimir Sharun wrote: Ок, неск. моментов про ufs/gjournal: 1. на диск *всё* пишется дважды (если журнал не отдельный диск). если для мелких файлов проблем нет, то для гигабайтного контента - чувствуется, из-за этого в своё время отказался в пользу su+j (а потом уже -

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 16:34, Anton Yuzhaninov wrote: Что же касается крэша в процессе fsck, то с таким не сталкивался больше чем за 10 лет использования UFS. Возможно мне повезло. Креши в fsck бывают либо в background-режиме, либо в ранних версиях, где в single user mode был низкий лимит на память

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 16:44, Eugene V. Boontseff wrote: Я про это читал в рассылках уже после того, как сделал на домашней машине. Но так и не понял, почему так нельзя. И где в документации сказано, что так нельзя. В документации это явно не сказано. Я спросил непосредственно у автора и получил

Re: Re[2]: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Slawa Olhovchenkov
On Mon, Feb 03, 2014 at 11:14:34AM +0200, Vladimir Sharun wrote: fsck для UFS необязателен. ext4 - журналируемая fs, сравнивать её с UFS с отключенным журналом нет смысла. Вы, вероятно, еще не сталкивались с ситуациями журнал поврежден, необходим полный fsck. В случае, когда

[freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Vasiliy P. Melnik
3 февраля 2014 г., 11:54 пользователь Eugene Grosbein eu...@grosbein.net написал: On 03.02.2014 16:44, Eugene V. Boontseff wrote: Я про это читал в рассылках уже после того, как сделал на домашней машине. Но так и не понял, почему так нельзя. И где в документации сказано, что так нельзя. В

Re: [freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 17:21, Vasiliy P. Melnik wrote: 3 февраля 2014 г., 11:54 пользователь Eugene Grosbein eu...@grosbein.net написал: On 03.02.2014 16:44, Eugene V. Boontseff wrote: Я про это читал в рассылках уже после того, как сделал на домашней машине. Но так и не понял, почему так нельзя. И

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Slawa Olhovchenkov
On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa Olhovchenkov wrote: UFS и ZFS память жрут примерно одинаково. только в случае UFS никто не говорит что это UFS память сожрала, а говорят на кеш ушло. для хорошей производительности размеры будт

[freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Vasiliy P. Melnik
3 февраля 2014 г., 12:41 пользователь Slawa Olhovchenkov s...@zxy.spb.ru написал: On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa Olhovchenkov wrote: UFS и ZFS память жрут примерно одинаково. только в случае UFS никто не говорит что это UFS память

Re: [freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Slawa Olhovchenkov
On Mon, Feb 03, 2014 at 12:44:18PM +0200, Vasiliy P. Melnik wrote: 3 февраля 2014 г., 12:41 пользователь Slawa Olhovchenkov s...@zxy.spb.ru написал: On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa Olhovchenkov wrote: UFS и ZFS память жрут

Re: [freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Volodymyr Kostyrko
03.02.2014 12:47, Slawa Olhovchenkov написав(ла): On Mon, Feb 03, 2014 at 12:44:18PM +0200, Vasiliy P. Melnik wrote: 3 февраля 2014 г., 12:41 пользователь Slawa Olhovchenkov s...@zxy.spb.ru написал: On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene V. Boontseff
On 03.02.2014 14:41, Slawa Olhovchenkov wrote: On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa Olhovchenkov wrote: UFS и ZFS память жрут примерно одинаково. только в случае UFS никто не говорит что это UFS память сожрала, а говорят на кеш ушло. для

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Slawa Olhovchenkov
On Mon, Feb 03, 2014 at 03:06:54PM +0400, Eugene V. Boontseff wrote: On 03.02.2014 14:41, Slawa Olhovchenkov wrote: On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa Olhovchenkov wrote: UFS и ZFS память жрут примерно одинаково. только в случае

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene V. Boontseff
On 03.02.2014 15:36, Slawa Olhovchenkov wrote: On Mon, Feb 03, 2014 at 03:06:54PM +0400, Eugene V. Boontseff wrote: On 03.02.2014 14:41, Slawa Olhovchenkov wrote: On Mon, Feb 03, 2014 at 02:37:07PM +0400, Anton Yuzhaninov wrote: On 02/03/14 14:21, Slawa Olhovchenkov wrote: UFS и ZFS

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 18:36, Slawa Olhovchenkov wrote: на zfs sendfile смысла не имеет вообще. Почему? т.е. у него и так смысла не очень много, а на zfs вообще нет. Смысл sendfile в уменьшении оверхеда на ненужные переключения контекста во-первых, и на копирование данных из kernel space в

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 18:36, Slawa Olhovchenkov wrote: на zfs sendfile смысла не имеет вообще. Почему? т.е. у него и так смысла не очень много, а на zfs вообще нет. Смысл sendfile в уменьшении оверхеда на ненужные переключения контекста во-первых, и на копирование данных из kernel space в

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Slawa Olhovchenkov
On Mon, Feb 03, 2014 at 09:49:29PM +0700, Eugene Grosbein wrote: On 03.02.2014 18:36, Slawa Olhovchenkov wrote: на zfs sendfile смысла не имеет вообще. Почему? потому что он не умеет напрямую в буфера ZFS/ARC и будет выполнять копирование оттуда в свои буфера. а оверхед на сискол нынче

Re: [freebsd] Много файлов, тормоза ФС

2014-02-03 Пенетрантность Eugene Grosbein
On 03.02.2014 22:12, Slawa Olhovchenkov wrote: On Mon, Feb 03, 2014 at 09:49:29PM +0700, Eugene Grosbein wrote: On 03.02.2014 18:36, Slawa Olhovchenkov wrote: на zfs sendfile смысла не имеет вообще. Почему? потому что он не умеет напрямую в буфера ZFS/ARC и будет выполнять копирование

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Anton Yuzhaninov
On 01.02.2014 02:34, Pavel Astakhov wrote: Господа, а кто держит большие файлохранилища на фре? Досталось тут одно хозяйство, веб-хайлоад, более 1.2Т картинок (4М файлов), порядка 80qps (все нормально разнесено по каталогам 1000 файлов), пробую перевести сервер статики под топик - безбожные

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Anton Yuzhaninov
On 01.02.2014 02:47, Pavel Astakhov wrote: диски SATA3 Seagate Constellation А на старом сервере модель дисков точно такая же? Когда несколько лет назад работал в Рамблер-почте, мы несколько раз пытались использовать SATA диски Seagate для хранения почты - на синтетических тестах диски вели

[freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Vladislav V. Prodan
2 февраля 2014 г., 18:58 пользователь Anton Yuzhaninov cit...@citrin.ruнаписал: Кстати, не написал ли кто geom-класс, пропускающий через себя все запросы к диску, чтобы составить статистику по запросам, и потом на основе этой статистики делать бенчмарки дисков? +1 реквестирую. --

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Vladimir Sharun
Добрый день, fsck в случае чего может спокойно длиться много часов в случае крэша на UFS: на ext4 и прочих журналируемых под линуксом - аналогично, за исключением btrfs, но с ним плотно (пока) еще не работали. А еще в процессе fsck можно поймать какой-то паник или oom. Необязательно это будет

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Eugene Grosbein
On 03.02.2014 13:44, Vladimir Sharun wrote: Добрый день, fsck в случае чего может спокойно длиться много часов в случае крэша на UFS: на ext4 и прочих журналируемых под линуксом - аналогично, за исключением btrfs, но с ним плотно (пока) еще не работали. А еще в процессе fsck можно

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Slawa Olhovchenkov
On Mon, Feb 03, 2014 at 08:44:24AM +0200, Vladimir Sharun wrote: Добрый день, fsck в случае чего может спокойно длиться много часов в случае крэша на UFS: на ext4 и прочих журналируемых под линуксом - аналогично, за исключением btrfs, но с ним плотно (пока) еще не работали. А еще в

[freebsd] Много файлов, тормоза ФС

2014-01-31 Пенетрантность Pavel Astakhov
Господа, а кто держит большие файлохранилища на фре? Досталось тут одно хозяйство, веб-хайлоад, более 1.2Т картинок (4М файлов), порядка 80qps (все нормально разнесено по каталогам 1000 файлов), пробую перевести сервер статики под топик - безбожные тормоза, gstat показывает задержки порядка

[freebsd] Re: [freebsd] Много файлов, тормоза ФС

2014-01-31 Пенетрантность Vladislav V. Prodan
1 февраля 2014 г., 0:34 пользователь Pavel Astakhov ja...@jared.kiev.uaнаписал: Господа, а кто держит большие файлохранилища на фре? Досталось тут одно хозяйство, веб-хайлоад, более 1.2Т картинок (4М файлов), порядка 80qps (все нормально разнесено по каталогам 1000 файлов), пробую перевести

Re: [freebsd] Много файлов, тормоза ФС

2014-01-31 Пенетрантность Pavel Astakhov
01.02.2014 00:44, Vladislav V. Prodan пишет: Самые главные вопросы - какая FS, какой RAID программный/аппаратный, какие диски.? По какому протоколу отдаете? Через Апач? UFS, RAID аппаратный 1, диски SATA3 Seagate Constellation (на линуксовом сервере конфигурация железа и рейда такая же).

Re: [freebsd] Много файлов, тормоза ФС

2014-01-31 Пенетрантность Eugene Grosbein
On 01.02.2014 05:34, Pavel Astakhov wrote: Господа, а кто держит большие файлохранилища на фре? Досталось тут одно хозяйство, веб-хайлоад, более 1.2Т картинок (4М файлов), порядка 80qps (все нормально разнесено по каталогам 1000 файлов), пробую перевести сервер статики под топик - безбожные