Процесс надо делать 3-4 раза в день в идеале (минимум 2 раза), причем гарантированно в этот момент юзвери могут полезть в этот момент с запросами. А отсутствие индексов просто уложит сервер на выборках. Там 10 млн где-то записей с выборками по двум int полям.

так обычно заливают warehouse для olap.
за сколько лет данные?

Данные ПОЛНОСТЬЮ уникальны. Это аналитика по прайс-листам.
ну точно. :-)

Чтобы обновить данные в WH и OLAP - необязательно перезаливать всю таблицу.
В OLAP есть механизмы инкрементальных обновлений... хотя, конечно - на порядок проще все грохнуть и залить заново. :-)

Но если производительности все же нехватает - можно подумать о том, чтобы не удалять все: Например, раз в сутки идет полное удаление и загрузка (ночью), а днем - удаление и заливка только текущего месяца.
А если кто менял данные в прошлом месяце - СЗЗБ, ждет до завтра.

P.S. очень ждем тройку с TRUNCATE TABLE.



Ответить