Re: кластер на основе xen drbd
28 декабря 2011 г. 11:27 пользователь Дамир Хакимов da...@agg.gazpromgeofizika.ru написал: Изучаю возможность построения отказоустойчивых сервисов. Из инструментов управления всем этим хозяйством нагуглил xen-drbd. ( http://xgu.ru/wiki/xen-drbd) Однако, при ближайшем рассмотрении оказалось, что проект скорее мертв, чем жив. Жаль. Интересный инструмент. Подскажите на что еще можно посмотреть-пощупать? ganeti вроде бы должен работать в плане перезапуска виртуалок на другом хосте при падении. Правда, в любом случае нужен общий сторадж. А будет ли это drbd или железный сторадж - другой вопрос. Вообще - рекомендую глянуть на Proxmox 2.0 Там обещали работающий ha для виртуалок. А вебморда там точно неплохая, если что (проверял на первой версии еще). -- Stanislav
Re: Построение кластер а. Выбор железа
On Mon, Jul 19, 2010 at 05:35:16PM +0700, Vit wrote: Вопрос не относится напрямую к debian, но на данной машине предполагается его активное использование, потому решил проконсультироваться у вас. А искать стоило всё-таки не под фонарём... :) Мы в лаборатории собираемся собрать (купить) кластер. Идеальный вариант - 64 физических ядра. Платформа (Intel или AMD) ещё не определена. Между тем это критично. Гоняйте свои задачи хотя бы на десктопных представителях, а лучше попытайтесь добраться с ними на кластеры с обеими архитектурами и выяснить заранее, что им важно -- сложить-умножить, кэш, память, интерконнект... На данный момент меня интересуют особенности построения систем такого масштаба. Есть опыт работы с отдельными серверами и кластерами на их основе, когда машины соединены просто через гигабитную сеть. См. тж. http://lists.altlinux.org/pipermail/hpc-devel/ и http://lists.altlinux.org/pipermail/hardware/2010-January/015634.html http://lists.altlinux.org/pipermail/hardware/2010-February/015773.html (плюс куски тредов вокруг) Конкретные вопросы: Возможно ли получить 64 ядра в одном компьютере? Возможно и намного больше. Какова цена такого решения? Выше разумной, спросите Cray Inc. Какие сетевые технологии используются для связи компьютеров в подобные кластеры, что лучше Infiniband или 10Gigabit ethernet? Вообще -- QDR IB. Собсно у тех же Mellanox это почти одно и то же в плане кремния, вплоть до переключабельности порта IIRC. Может быть стоит использовать blade серверы (к сожалению я не совсем представляю во что это выльется)? Может; только сперва надо уточнить задачу и ограничения. Если бюджет -- более жёсткое ограничение, чем место и производительность, то лучше на них не рассчитывать. Есть ли польза от использования твердотельных дисков для работы с большими объёмами временных файлов (на данный момент бывает 100-200 Gb на один компьютер)? Может быть больше пользы от небольшого Lustre-хранилища по IB или десятке -- цена того же SNVP325-S2/128GB сопоставима с ценой трёх терабайтников Hitachi, которые в RAID0 его обставят по линейному доступу однозначно (для пары узлов я бы предпочёл 6xHDD в RAID10, а не по одному SSD на узел; для восьми -- 24xHDD в RAID6 для постоянных данных + RAID0 для временных). Какие есть особенности построения систем такого уровня? 64 ядра -- это 16 quad-core, бишь восемь узлов разумной стоимости. У таких систем обычно главная особенность -- насколько бюджетными их получается сделать. (у попадавшихся недавно под руки блоков для построения кластера на одно шасси приходилось 80/256 ядер) Может быть проблемы с охлаждением? Разумеется. Посчитайте TDP одних процессоров, на которые целитесь (e.g. для X5570 -- 95W), прибавьте память и интерконнект, плюс питание, плюс чипсет. Для Вашего случая это уже примерно от двух киловатт рассеять надо. PS: я нечасто заглядываю в debian-russian@, если что понадобится -- поставьте в копию, pls. У нас тут Clustrx разрабатывают. :) -- WBR, Michael Shigorin m...@altlinux.ru -- Linux.Kiev http://www.linux.kiev.ua/ -- To UNSUBSCRIBE, email to debian-russian-requ...@lists.debian.org with a subject of unsubscribe. Trouble? Contact listmas...@lists.debian.org Archive: http://lists.debian.org/20100719161846.gc13...@osdn.org.ua
Re: Debian кластер
Evgeny Yugov пишет: Здравствуйте. Что-то типа: heartbeat-2 redhat-cluster drbd8 ocfs PS Держите в курсе экспериментов ;-) chaos пишет: Доброго времени суток уважаемые. Собственно возникло желание поиграться с кластерами, для распараллеливания вычислений и т.д. Посему и вопрос, что по этим самым кластерам интересного имеется в официальном репозитории. Может кто что посоветует, кауда копать. Особых требований нет, интересно на данный момент то что есть именно в репозитории. То что в инете полно всего и всё это можно ставить и пробовать это понятно, интересует так сказать debian way. Заранее благодарен. Или я что-то не понимаю, или где тут параллельные вычисления? Тут разве только пакеты относящиеся к HA (High Availability) Олег. -- To UNSUBSCRIBE, email to [EMAIL PROTECTED] with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]
Debian кластер
Доброго времени суток уважаемые. Собственно возникло желание поиграться с кластерами, для распараллеливания вычислений и т.д. Посему и вопрос, что по этим самым кластерам интересного имеется в официальном репозитории. Может кто что посоветует, кауда копать. Особых требований нет, интересно на данный момент то что есть именно в репозитории. То что в инете полно всего и всё это можно ставить и пробовать это понятно, интересует так сказать debian way. Заранее благодарен.
Re: Debian кластер
Здравствуйте. Что-то типа: heartbeat-2 redhat-cluster drbd8 ocfs PS Держите в курсе экспериментов ;-) chaos пишет: Доброго времени суток уважаемые. Собственно возникло желание поиграться с кластерами, для распараллеливания вычислений и т.д. Посему и вопрос, что по этим самым кластерам интересного имеется в официальном репозитории. Может кто что посоветует, кауда копать. Особых требований нет, интересно на данный момент то что есть именно в репозитории. То что в инете полно всего и всё это можно ставить и пробовать это понятно, интересует так сказать debian way. Заранее благодарен. -- Здесь могла быть ваша реклама...
Кластер на ядре 2.6
Вобщем вопрос в следующем Заетли кто что-нибуть типа mosix/openmosix патча но для ядра 2.6. А то mosix/openmosix только дял ядер 2.4, а хотелось бы использовать ядро 2.6 -- .: StreSS aka ShaD0FF:. .: ICQ - 121525811 :. .: Tula Unix User Group http://www.tuug.h16.ru :. .: Vita sene liberate nihil:. -- To UNSUBSCRIBE, email to [EMAIL PROTECTED] with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]
Re. Кластер на ядре 2.6
Hi. Вобщем вопрос в следующем Заетли кто что-нибуть типа mosix/openmosix патча но для ядра 2.6. А то mosix/openmosix только дял ядер 2.4, а хотелось бы использовать ядро 2.6 http://openmosix.snarc.org/files/releases/2.6/ Bye. -- Change your thoughts and you change your world. -- To UNSUBSCRIBE, email to [EMAIL PROTECTED] with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]
Re: Re. Кластер на ядре 2.6
Petrov M.I. [EMAIL PROTECTED] writes: В общем вопрос в следующем Знает ли кто что - нибудь типа mosix/openmosix патча но для ядра 2.6. А то mosix/openmosix только для ядер 2.4, а хотелось бы использовать ядро 2.6 http://openmosix.snarc.org/files/releases/2.6/ Вот спасибо -- .: StreSS aka ShaD0FF:. .: ICQ - 121525811 :. .: Tula Unix User Group http://www.tuug.h16.ru :. .: Vita sene liberate nihil:. -- To UNSUBSCRIBE, email to [EMAIL PROTECTED] with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]
Кластер
Привет уважаемому сообществу! Есть сервер под управлением ASPLinux, под ним крутятся боевые apache, php, mysql. Ставится задача эту связку сделать отказоустойчивой, для чего поднять некое кластерное решение. Планирую второй сервак поднять под Debian, ну и первый затем на него же (Debian) перевести. Как наиболее правильно это сделать? =- С уважением, Денис Зуев
Re: Кластер
Viktor Vislobokov wrote:
Привет всем!
Может кто знает?
Хочу собрать отказоустойчивый кластер по следующим требованиям:
Дано:
Два приблизительно одинаковых компьютера, каждый со
своим дисковым массивом
Нужно:
Принцип master - slave, т.е. один компьютер - это master и
вся работа клиентов на нём! Второй компьютер вступает в работу
только когда выходит из строя или выключается на обслуживание
второй.
Отсюда вытекает:
1. Синхронизация файловых систем в реальном времени
raid over NBD
где-то видел я патч что если сеть упала то raid не ошибки кидает а
буферизирует.
2. Единый IP-адрес со стороны клиента - понятно что сетевых
карт надо как минимум две - одна будет использоваться для
синхронизации в кластере
RFC есть и код для линуха
3. Подхват операционкой на slave компьютере IP адреса master
компьютера в случае его пропадания
там же
Какой софт может всё это обеспечить?
Ну хотя бы пункт 1, остальное и ручками можно
Виктор
ЪТХPт■ ▒ Ъzf╒√з y╦ ÷ЗН╡х ÷Зч╙Г╛╥Ыb╡шЪuФБj?Х╝
╤╛╧╦чrз ЧИЛ╧╩ ╝чЪТК╒ФЕ{П╗·ж°╤X╛╤f╛╣ЙЪ√+-ЁВ^n╖Ч┼Ю
Кластер
Привет всем! Может кто знает? Хочу собрать отказоустойчивый кластер по следующим требованиям: Дано: Два приблизительно одинаковых компьютера, каждый со своим дисковым массивом Нужно: Принцип master - slave, т.е. один компьютер - это master и вся работа клиентов на нём! Второй компьютер вступает в работу только когда выходит из строя или выключается на обслуживание второй. Отсюда вытекает: 1. Синхронизация файловых систем в реальном времени 2. Единый IP-адрес со стороны клиента - понятно что сетевых карт надо как минимум две - одна будет использоваться для синхронизации в кластере 3. Подхват операционкой на slave компьютере IP адреса master компьютера в случае его пропадания Какой софт может всё это обеспечить? Ну хотя бы пункт 1, остальное и ручками можно Виктор
Re: Кластер и gcc - ч ем?
On Sun, 06 Apr 2003 17:50:26 +0400 Nikita V. Youshchenko [EMAIL PROTECTED] wrote: хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? Я когда-то пытался поиспользовать openmosix для параллельной сборки. Результат абсолютно отрицательный - процессы компиляции быстрее завершаются, чем OM соберется их мигрировать, а есть OM таки успеет, то он дольше будет их перегонять, чем им на хосте работать. Компиляция неплохо распараллеливается при помощи distcc (есть в debian). Ок, а для сборки ядра или xfree покатит?
Re: Кластер и gcc - че м?
хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? Я когда-то пытался поиспользовать openmosix для параллельной сборки. Результат абсолютно отрицательный - процессы компиляции быстрее завершаются, чем OM соберется их мигрировать, а есть OM таки успеет, то он дольше будет их перегонять, чем им на хосте работать. Компиляция неплохо распараллеливается при помощи distcc (есть в debian). Мой опыт полностью подтверждает вышесказанное. -- Alexey Python is executable pseudocode, Perl is executable line-noise.
Re: Кластер и gcc - че м?
On Sun, Apr 06, 2003 at 01:12:52PM +0700, Dmitry A. Fedorov wrote: On Sun, 6 Apr 2003, Vlad Harchev wrote: On Sat, Apr 05, 2003 at 07:51:36PM +0300, Bogdan wrote: хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? И вообще, есть ли поддержка pvm в стандартном ядре? А то для openmosix есть патч, а для pvm я ничего че-то не нашел, кроме самого pvm и его либов. При использовании openmosix никакого нестандартного make не надо - просто пускать нужно несколько инстансов (make -j N) и благодаря mosix некоторые компиляторы будут автоматически перекинуты на др. узлы. Угу. Но для этого надо, чтобы писатель Makefileов сделал правильные зависимости, а это ох как непросто и, как правило, это не так. ну у больших проектов мэйкфайлы как правило нормальные - их часто собирают на SMP машинах - и для них это тоже актуально.. -- Best regards, -Vlad
Re: Кластер и gcc - чем?
On Sun, 6 Apr 2003, Vlad Harchev wrote: On Sat, Apr 05, 2003 at 07:51:36PM +0300, Bogdan wrote: хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? И вообще, есть ли поддержка pvm в стандартном ядре? А то для openmosix есть патч, а для pvm я ничего че-то не нашел, кроме самого pvm и его либов. При использовании openmosix никакого нестандартного make не надо - просто пускать нужно несколько инстансов (make -j N) и благодаря mosix некоторые компиляторы будут автоматически перекинуты на др. узлы. Угу. Но для этого надо, чтобы писатель Makefileов сделал правильные зависимости, а это ох как непросто и, как правило, это не так. -- Если виртуальная память закончилась, она не настоящая.
Re: Кластер и gcc - чем?
хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? Я когда-то пытался поиспользовать openmosix для параллельной сборки. Результат абсолютно отрицательный - процессы компиляции быстрее завершаются, чем OM соберется их мигрировать, а есть OM таки успеет, то он дольше будет их перегонять, чем им на хосте работать. Компиляция неплохо распараллеливается при помощи distcc (есть в debian).
Кластер и gcc - чем ?
хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? И вообще, есть ли поддержка pvm в стандартном ядре? А то для openmosix есть патч, а для pvm я ничего че-то не нашел, кроме самого pvm и его либов.
Re: Кластер и gcc - чем?
5 Апрель 2003 20:51, Bogdan написал: хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? И вообще, есть ли поддержка pvm в стандартном ядре? А то для openmosix есть патч, а для pvm я ничего че-то не нашел, кроме самого pvm и его либов. на сколько я понимаю PVM это протокол обмена информацией между процессами на одной или нескольких машинах, пересылка данных в этом случае осуществляется либо с помощью специального демона или с помощью стандартных средств - rsh/ssh, при этом патча к ядру естественно никакого не надо. ещё из той же оперы - MPI (Message Passing Interface) (пакеты lam3 ИЛИ mpich - реализации протокола MPI от разных разработчиков) -- Alexey Ozeritsky email1: [EMAIL PROTECTED] email2: [EMAIL PROTECTED] web: http://make-install.ifirst.ru | icq: UIN 52034320
Re: Кластер и gcc - че м?
On Sat, Apr 05, 2003 at 07:51:36PM +0300, Bogdan wrote: хочется поиграться с кластерами и компиляцией софта. Как я понимаю, сборку чего-либо можно распараллелить на этапе обработки make. Умеет ли какой-нить make делать это на pvm или openmosix кластерах? И вообще, есть ли поддержка pvm в стандартном ядре? А то для openmosix есть патч, а для pvm я ничего че-то не нашел, кроме самого pvm и его либов. При использовании openmosix никакого нестандартного make не надо - просто пускать нужно несколько инстансов (make -j N) и благодаря mosix некоторые компиляторы будут автоматически перекинуты на др. узлы. А PVM для распаралеливания сборки вообще не поможет. -- Best regards, -Vlad
Re: Кластер из 2ух компьютеров.
Vinogradov Dmitriy wrote: Алексей, спасибо большое за информацию! Кажется, её будет достаточно. Один только вопрос может Вы знаете - с Java с green threads проблем нет? Не знаю. Но при маленькой нагрузке на кластер, как правило, ни с чем проблем нет.
