Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
Рэйд реально нужен. Матчасть не знаю, но подозреваю, что нагрузка на отдельный хард в рэйде несколько ниже, чем в режиме рассыпанных хардов. И действительно, на практике увидел снижение нагрузки почти в 2 раза. Но нам этого немного не хватает. aio реально бы спас ситуацию. Уходить от текущей схемы по тому же алгоритму, как и пришли на нее. ZFS настраивался недавно. В общем, эта ветка обсуждения уже ушла от темы. Предлагаю не развивать. Как-то плохо Вы подозреваете и непонятно как это увидели, разве что на тестах ab Тут уже кстати один раз был холивар по поводу рейдов, можете окунуться в историю http://forum.nginx.org/read.php?21,68014,79023#msg-79023 ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
Был mdraid... Когда-то давно, еще до меня. Падения были постоянные. Может его неправильно "приготовили", но факт. Места свободного пока достаточно (процентов 35-40), оперативы 32 и есть, но дедупликацию включать все равно опасаюсь. В общем, спасибо всем! Тема уже не nginx-а. Буду копать дальше. Posted at Nginx Forum: http://forum.nginx.org/read.php?21,216319,248976#msg-248976 ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
Андрей Василишин Wrote: --- > 03.04.2014 15:24, Shold пишет: > > > Вообще, я про линух ничего не говорил, но да - стоит CentOS. ZFS > пришел чуть > > позже, чем была установлена и настроена система. Целью введения ZFS > как раз > > и было ускорение дисковой подсистемы. Про подводные камни согласен, > но не > > думал, что упрусь в aio (( > > Посоветуйте Soft-RAID, на котором именно CentOS способен развивать > > космические скорости. Ну и чтобы совместимость с aio была. Это > принципиально > > важно, потому как контент MP4, файлы большие и много (в сумме около > 30ТБ). > > Отдача активная (в пике до 700 параллельных скачиваний). > > А зачем вообще рейд и как собираетесь уходить от текущей схемы? > > > ___ > nginx-ru mailing list > nginx-ru@nginx.org > http://mailman.nginx.org/mailman/listinfo/nginx-ru Рэйд реально нужен. Матчасть не знаю, но подозреваю, что нагрузка на отдельный хард в рэйде несколько ниже, чем в режиме рассыпанных хардов. И действительно, на практике увидел снижение нагрузки почти в 2 раза. Но нам этого немного не хватает. aio реально бы спас ситуацию. Уходить от текущей схемы по тому же алгоритму, как и пришли на нее. ZFS настраивался недавно. В общем, эта ветка обсуждения уже ушла от темы. Предлагаю не развивать. Posted at Nginx Forum: http://forum.nginx.org/read.php?21,216319,248975#msg-248975 ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
700? Это шутка? Спросите у файловых хостингов, сколько у них параллельно... на сервере с 20Гбит/с каналом разок видел 35к, а так 20-30к обычно ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
03.04.2014 16:24, Shold пишет: Вообще, я про линух ничего не говорил, но да - стоит CentOS. ZFS пришел чуть позже, чем была установлена и настроена система. Целью введения ZFS как раз и было ускорение дисковой подсистемы. Про подводные камни согласен, но не думал, что упрусь в aio (( Сам по себе zfs ничего не ускорит, и более того, при неправильном применении сделает только хуже. Например, когда мало места, производительность просядет раз в 10 by design. Ускорить работу, иногда существенно, может l2arc+ZIL на SSD, но в лине есть flashcache, bcache, btier, а также подобный функционал есть у аппаратных рейдов на LSi, adaptec. Имело бы некоторый смысл при использовании сжатия и дедупликации, но mp4 и так сжаты, а для дедупликации на 30Тб данных надо хотя бы 32 гига оперативы, а лучше 64 и более, иначе можно схватить панику или отвал пула. Ну или кластерную фс и несколько нод, с легким масштабированием, но несколько другой ценой. Посоветуйте Soft-RAID, на котором именно CentOS способен развивать космические скорости. dmraid, mdraid ) А вообще "космические скорости" тут смотрится странно. Как рейд сделает скорости? Если вопрос в уровнях -- самый быстрый это 0, чередование, stripe. Он же самый опасный, отвал 1 диска = смерть всех данных. Наиболее оптимальный -- 6 или 60, только не 5 ни в коем случае, уже на 10Тб он слишком опасен. Ну и желательно все-таки 2 ноды и более иметь, на случай любых проблем на одной - оставшиеся вытянут. Ну и чтобы совместимость с aio была. Это принципиально важно, потому как контент MP4, файлы большие и много (в сумме около 30ТБ). Отдача активная (в пике до 700 параллельных скачиваний). 700? Это шутка? Спросите у файловых хостингов, сколько у них параллельно... ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
03.04.2014 15:24, Shold пишет: Вообще, я про линух ничего не говорил, но да - стоит CentOS. ZFS пришел чуть позже, чем была установлена и настроена система. Целью введения ZFS как раз и было ускорение дисковой подсистемы. Про подводные камни согласен, но не думал, что упрусь в aio (( Посоветуйте Soft-RAID, на котором именно CentOS способен развивать космические скорости. Ну и чтобы совместимость с aio была. Это принципиально важно, потому как контент MP4, файлы большие и много (в сумме около 30ТБ). Отдача активная (в пике до 700 параллельных скачиваний). А зачем вообще рейд и как собираетесь уходить от текущей схемы? ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
denis Wrote: --- > 03.04.2014 15:47, Maxim Dounin пишет: > > Линукс в сочетании с AIO - это вообще слабое звено, он его не > > умеет нормально, из-за этого приходится прибегать к множеству > > ухищрений и извращений. > > > > Для zfs, похоже, не умеет вообще: > > > > https://github.com/zfsonlinux/zfs/issues/223 > Если нужен zfs, почему не фря/индиана? zfsonlinux пока много подводных > > камней таит > > ___ > nginx-ru mailing list > nginx-ru@nginx.org > http://mailman.nginx.org/mailman/listinfo/nginx-ru Вообще, я про линух ничего не говорил, но да - стоит CentOS. ZFS пришел чуть позже, чем была установлена и настроена система. Целью введения ZFS как раз и было ускорение дисковой подсистемы. Про подводные камни согласен, но не думал, что упрусь в aio (( Посоветуйте Soft-RAID, на котором именно CentOS способен развивать космические скорости. Ну и чтобы совместимость с aio была. Это принципиально важно, потому как контент MP4, файлы большие и много (в сумме около 30ТБ). Отдача активная (в пике до 700 параллельных скачиваний). Posted at Nginx Forum: http://forum.nginx.org/read.php?21,216319,248959#msg-248959 ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
03.04.2014 15:47, Maxim Dounin пишет: Линукс в сочетании с AIO - это вообще слабое звено, он его не умеет нормально, из-за этого приходится прибегать к множеству ухищрений и извращений. Для zfs, похоже, не умеет вообще: https://github.com/zfsonlinux/zfs/issues/223 Если нужен zfs, почему не фря/индиана? zfsonlinux пока много подводных камней таит ___ nginx-ru mailing list nginx-ru@nginx.org http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
Hello!
On Thu, Apr 03, 2014 at 07:00:29AM -0400, Shold wrote:
> Использую модуль MP4. open_file_cache включен, пытаюсь включить aio,
> получаю
> [crit] 17325#0: *506 io_submit("путь до mp4") failed (22: Invalid argument)
> while sending mp4 to client
> Пересобрал nginx 1.4.7 с патчем модуля MP4 (описанным выше) - не помогло.
> Отключение open_file_cache тоже не помогло (( Помогает только отключение
> aio.
> Еще одна особенность - жесткие диски у нас собраны в пул zfs. Может тут
> какое-то слабое звено?...
Линукс в сочетании с AIO - это вообще слабое звено, он его не
умеет нормально, из-за этого приходится прибегать к множеству
ухищрений и извращений.
Для zfs, похоже, не умеет вообще:
https://github.com/zfsonlinux/zfs/issues/223
--
Maxim Dounin
http://nginx.org/
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru
Re: Модуль mp4: 500 Internal Server, pread() failed (22: Invalid argument),
Использую модуль MP4. open_file_cache включен, пытаюсь включить aio,
получаю
[crit] 17325#0: *506 io_submit("путь до mp4") failed (22: Invalid argument)
while sending mp4 to client
Пересобрал nginx 1.4.7 с патчем модуля MP4 (описанным выше) - не помогло.
Отключение open_file_cache тоже не помогло (( Помогает только отключение
aio.
Еще одна особенность - жесткие диски у нас собраны в пул zfs. Может тут
какое-то слабое звено?...
Posted at Nginx Forum:
http://forum.nginx.org/read.php?21,216319,248953#msg-248953
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru
