Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-11 Thread Jaak Laineste
Nii, seis on siis selline hetkel, et nii andmebaasi uuendus kui tilede ekspireerimine serveris tunduvad toimivat (Mapniku pildi puhul, nii eesti kui inglisekeelsetel tiledel). Diffi importi alla umbes 6-10 minuti reaalselt ära ei tehta, seega halvimal juhul võib andmeuuendus save nupule vajutu

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-09 Thread Andres Kaaber
Super kõva! 2012/1/9 Jaak Laineste : > > On 09.01.2012, at 20:25, Margus Värton wrote: > >> 5.01.2012 22:57, Jaak Laineste kirjutas: >>> Just, Mapnikul on ajutine kiirimport. Täisplaneet tuli uusim täna ja mõned >>> tunnid on seda otsast imporditud. Ehk nädala lõpuks. >> >> Nii, friigid tahavad v

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-09 Thread Jaak Laineste
On 09.01.2012, at 20:25, Margus Värton wrote: > 5.01.2012 22:57, Jaak Laineste kirjutas: >> Just, Mapnikul on ajutine kiirimport. Täisplaneet tuli uusim täna ja mõned >> tunnid on seda otsast imporditud. Ehk nädala lõpuks. > > Nii, friigid tahavad veel detaile. Kas me oleme lõppude lõpuks ajast

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-09 Thread Margus Värton
5.01.2012 22:57, Jaak Laineste kirjutas: Just, Mapnikul on ajutine kiirimport. Täisplaneet tuli uusim täna ja mõned tunnid on seda otsast imporditud. Ehk nädala lõpuks. Nii, friigid tahavad veel detaile. Kas me oleme lõppude lõpuks ajast ette jõudmas - paari nädalaga tänasele päevale järgi joo

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-05 Thread Jaak Laineste
On 05.01.2012, at 22:53, Margus Värton wrote: > 5.01.2012 22:37, Margus Värton kirjutas: >> 4.01.2012 15:06, Andres Kaaber kirjutas: >>> Aasta tagasi võttis osm2pgsql ~16 tundi ... oskad sa öelda mis muutus, >>> et nii suur vahe tuli? Kas see 64 bit integeri kasutus? >>> >> >> No igatahes praeg

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-05 Thread Margus Värton
5.01.2012 22:37, Margus Värton kirjutas: 4.01.2012 15:06, Andres Kaaber kirjutas: Aasta tagasi võttis osm2pgsql ~16 tundi ... oskad sa öelda mis muutus, et nii suur vahe tuli? Kas see 64 bit integeri kasutus? No igatahes praeguseks on pilt ees, nii Mapserveril kui Mapnikul. Tundub siiski, et

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-05 Thread Margus Värton
4.01.2012 15:06, Andres Kaaber kirjutas: Aasta tagasi võttis osm2pgsql ~16 tundi ... oskad sa öelda mis muutus, et nii suur vahe tuli? Kas see 64 bit integeri kasutus? No igatahes praeguseks on pilt ees, nii Mapserveril kui Mapnikul. - M - ___ Tal

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-04 Thread Jaak Laineste
Ei ole aimugi. Minumeelest ei ole ma eriti kiiremat enne ka näinud, võibolla on mul valed võtmed :) https://code.google.com/p/maakaart-ee/wiki/ServersGeneral on mu käsud kirjas, mingid kataloogid on pisut muutunud aga põhiasjad täpselt samad. Hetkel jookseb imposm planeedi lugemine (28.12 se

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-04 Thread Andres Kaaber
Aasta tagasi võttis osm2pgsql ~16 tundi ... oskad sa öelda mis muutus, et nii suur vahe tuli? Kas see 64 bit integeri kasutus? 2012/1/4 Jaak Laineste : > > ~24-30 tundi imposm, 3-5 ööpäeva osm2pgsql. > > Jaak > > On 04.01.2012, at 13:35, Andres Kaaber wrote: > >> Väga tubli ... 24-58 tundi on väga

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-04 Thread Jaak Laineste
~24-30 tundi imposm, 3-5 ööpäeva osm2pgsql. Jaak On 04.01.2012, at 13:35, Andres Kaaber wrote: > Väga tubli ... 24-58 tundi on väga "huvitav" pakkumine :) > > Kuupäeval 4. jaanuar 2012 11:20 kirjutas Jaak Laineste (Nutiteq) > : >> Nii, esialgne taastus on olemas. Täisplaneeti loetakse veel (õh

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-04 Thread Andres Kaaber
Väga tubli ... 24-58 tundi on väga "huvitav" pakkumine :) Kuupäeval 4. jaanuar 2012 11:20 kirjutas Jaak Laineste (Nutiteq) : > Nii, esialgne taastus on olemas. Täisplaneeti loetakse veel (õhtuks > peaks mapserveri/avavaade saama uuendatud), kodulehe > kiireksparanduseks importisin Eesti väljavõtte

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-04 Thread Jaak Laineste (Nutiteq)
Nii, esialgne taastus on olemas. Täisplaneeti loetakse veel (õhtuks peaks mapserveri/avavaade saama uuendatud), kodulehe kiireksparanduseks importisin Eesti väljavõtte nii mapnik kui mapserveri alla. Eesti import võtab 3 minutit aega (vs planeet 24-58 tundi), nii väike ongi see maa meil siin. Jaak

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-03 Thread Andres Kaaber
Mhm reinstalli oleks juba varem tulnud teha :) 2012/1/3 Jaak Laineste : > >  Kettad paistavad kõik korras olevat, katki oli mount (virises oma librade > versiooni üle, kuigi installitud oli õige versioon). Googledus midagi selle > kohta ei öelnud, ilmselt ise olin mingite distro-kerneli uuenduste

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-03 Thread Jaak Laineste
Kettad paistavad kõik korras olevat, katki oli mount (virises oma librade versiooni üle, kuigi installitud oli õige versioon). Googledus midagi selle kohta ei öelnud, ilmselt ise olin mingite distro-kerneli uuenduste käigus midagi os-is katki teinud. See võis ennem olla ja välja tulla restardi

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Andres Kaaber
Vaata mida ütleb cat /proc/mdstat 2012/1/2 Jaak Laineste > > Meil pole kasutatavustki, rääkimata statistikast. Andy Allani > (opencyclemap jms) jutust jäi kõrva tema tõdemus, et enamusi tile-sid > päritakse üks kord ja siis enam mitte kunagi, cachemise jaoks raske > olukord. On vaid mõnisada M

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Jaak Laineste
 Meil pole kasutatavustki, rääkimata statistikast. Andy Allani (opencyclemap jms) jutust jäi kõrva tema tõdemus, et enamusi tile-sid päritakse üks kord ja siis enam mitte kunagi, cachemise jaoks raske olukord. On vaid mõnisada MB madala zoomiga tilesid mida korduvpäritakse.Anyway, mu suurepärane id

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Margus Väli
SSD kirjutamine on aeglasem. Ta tasub end ära kui on palju tõilasid, meil siin neid vist pole eriti, st. enamik rahva nõutud pilte kettalt mahuks ju lausa linuxi mälupuhvrisse ära mis on veel kiirem sest on opmälu? Jaak...on sul statistikat tilede kasutatavuse kohta ja palju neid nõutumaid mahult o

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Margus Värton
2.01.2012 16:06, Jaak Laineste kirjutas: Kokku siis 800? Umbes 900 eest saaks Inteli 600G 320-seeria SSD, mis oleks veel palju (10x?) kiirem ja peaks mahu osas veel mõnda aega välja vedama. OSM tileserveris on selline ketas, aga ma ei tea mida ta seal õigupoolest teeb. Andmebaas on seal ikka st

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Jaak Laineste
On 02.01.2012, at 15:39, Margus Värton wrote: > 2.01.2012 12:55, Margus Värton kirjutas: >> >> Ma arvan, et Jaagu pakutu on praegu reaalsem stsenaarium. Me võiksime alanud >> aastasse planeerida andmebaasiketaste asendamise suurematega, kuid ma ei näe >> selleks praegu eelarvet. 300GB 15k SAS

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Margus Värton
2.01.2012 12:55, Margus Värton kirjutas: Ma arvan, et Jaagu pakutu on praegu reaalsem stsenaarium. Me võiksime alanud aastasse planeerida andmebaasiketaste asendamise suurematega, kuid ma ei näe selleks praegu eelarvet. 300GB 15k SAS kettad ei ole liiga odavad. Vaatasin kettapakkumisi Marki

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Margus Väli
Ma ei ole tegelt teoorias pädev. Lihtsalt küsisin kuidas OSMis skaleerimisega läheb. Kui me suudaksime kera sobivalt ära tükeldada kõikidele kasutada olevatele sõlmedele ja kirjutada R-puu vms. ruumi-indeksi (ülemistele) sõlmedele nende alampuude asukohad (IP võrgus), siis vahepeal oleks lihtsalt

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Margus Värton
2.01.2012 11:56, Margus Väli kirjutas: Kas meil teoreetiliselt oleks võimalik saada juurde veel üks kast (ja siis veel) millega saaks kuidagi hakata planeeti fragmentideks tükeldama? http://en.wikipedia.org/wiki/Scalability#Scale_horizontally_.28scale_out.29 Ma arvan, et Jaagu pakutu on praegu

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Jaak Laineste (Nutiteq)
Teoreetiliselt on kõik võimalik, finantsiliselt on kõvad piirid (KÜSK rahad/projekt on läbi). Kuidas sa täpselt seda tehniliselt mõtleksid ? Peamine OSM tile-server istub rõõmsalt 1 node otsas, ja veab välja nii andmeuuendused kui kõik tilede kasutajad. On küll rohkem mälu kui meil, ja kraad kan

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Margus Väli
Kas meil teoreetiliselt oleks võimalik saada juurde veel üks kast (ja siis veel) millega saaks kuidagi hakata planeeti fragmentideks tükeldama? http://en.wikipedia.org/wiki/Scalability#Scale_horizontally_.28scale_out.29 mv Ühel kenal päeval, E, 02.01.2012 kell 10:49, kirjutas Jaak Laineste: > Ju

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2012-01-02 Thread Jaak Laineste
>  Nii, sain just paar tundi vana 28.12 seisuga planeedi kätte ja raid-0 > ketastele (ext4 on seal) täis-import käima; baasi fsync=off. Näis kas > õnnestub värskem baas saada kui eelnev 28-29 päev vana. Staatus: import käis suht kiiresti, ikka oluliselt kiirem kui enne. Juba vana aasta lõpuks (v

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-29 Thread Jaak Laineste
On 29.12.2011, at 13:39, Margus Värton wrote: > 29.12.2011 10:42, Jaak Laineste kirjutas: >>> seda 2x kiiruse suurendamist kodu impordile või ketaste osale? FS >>> kindlasti ei mängi nii suurt rulli. BTRFS vs. ext4 BTRFS on küll >>> aeglasem aga see ei ole nii suur vahe. Samas tundub, et BTRFS -l

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-29 Thread Margus Värton
29.12.2011 10:42, Jaak Laineste kirjutas: seda 2x kiiruse suurendamist kodu impordile või ketaste osale? FS kindlasti ei mängi nii suurt rulli. BTRFS vs. ext4 BTRFS on küll aeglasem aga see ei ole nii suur vahe. Samas tundub, et BTRFS -l on suurem tulevik kui EXT -l ... aga kst. Ega ei tea enne

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-29 Thread Jaak Laineste
On 28.12.2011, at 23:09, Andres Kaaber wrote: > seda 2x kiiruse suurendamist kodu impordile või ketaste osale? FS > kindlasti ei mängi nii suurt rulli. BTRFS vs. ext4 BTRFS on küll > aeglasem aga see ei ole nii suur vahe. Samas tundub, et BTRFS -l on > suurem tulevik kui EXT -l ... aga kst. Ega

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-28 Thread Andres Kaaber
seda 2x kiiruse suurendamist kodu impordile või ketaste osale? FS kindlasti ei mängi nii suurt rulli. BTRFS vs. ext4 BTRFS on küll aeglasem aga see ei ole nii suur vahe. Samas tundub, et BTRFS -l on suurem tulevik kui EXT -l ... aga kst. Kuupäeval 28. detsember 2011 16:29 kirjutas Jaak Laineste (N

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-28 Thread Jaak Laineste (Nutiteq)
Kuupäeval 25. detsember 2011 17:39 kirjutas Jaak Laineste (Nutiteq) : >  Muide, keda huvitab masina performance ja kel on ideid kuidas > serverit/baasi (eelkõige gis-nimelist) kiiremaks teha et uuendused > järgi jõuaksid praegusele ajale (ja veel parem kui mööda läheks), siis > http://kaart.maakaar

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-25 Thread Jaak Laineste (Nutiteq)
Muide, keda huvitab masina performance ja kel on ideid kuidas serverit/baasi (eelkõige gis-nimelist) kiiremaks teha et uuendused järgi jõuaksid praegusele ajale (ja veel parem kui mööda läheks), siis http://kaart.maakaart.ee/munin/ on toimivad kõverad ka nüüd olemas. Jaak ___

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-23 Thread Jaak Laineste
On 23.12.2011, at 16:55, Margus Värton wrote: > 23.12.2011 14:24, Jaak Laineste kirjutas: >> 3. Ühine probleem on et mistahes postgres replikatsiooni ülespanek ja >> läbikatsetamine gigasuure baasiga on mittetriviaalne töö, mille kohta >> juhendeid ei ole ülemäära palju. Kes võiks supportida? A

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-23 Thread Margus Värton
23.12.2011 14:24, Jaak Laineste kirjutas: 3. Ühine probleem on et mistahes postgres replikatsiooni ülespanek ja läbikatsetamine gigasuure baasiga on mittetriviaalne töö, mille kohta juhendeid ei ole ülemäära palju. Kes võiks supportida? Ainus, kellega ma olen pisut isiklikult vestelnud sellest

Re: [Talk-ee] Kaardiserver - tehnilisi detaile ainult friikidele

2011-12-23 Thread Jaak Laineste
On 23.12.2011, at 11:44, Margus Värton wrote: > 22.12.2011 17:03, Jaak Laineste kirjutas: >> >> - proovin ka osm2pgsql baasi uuendada >> http://wiki.openstreetmap.org/wiki/DE:Minutely_Mapnik skriptiga (load-next), >> esimene katse oli üsna nigel - 5 min uuendusi loeti 55 minutit. Aga serveris

Re: [Talk-ee] Kaardiserver

2011-12-23 Thread Margus Värton
22.12.2011 17:03, Jaak Laineste kirjutas: - proovin ka osm2pgsql baasi uuendada http://wiki.openstreetmap.org/wiki/DE:Minutely_Mapnik skriptiga (load-next), esimene katse oli üsna nigel - 5 min uuendusi loeti 55 minutit. Aga serveris käib ka tilede prerenderdus, mis teeb kõike aeglasemaks.

Re: [Talk-ee] Kaardiserver

2011-12-22 Thread Jaak Laineste
> > - on ka mapnik kujundusega WMS olemas (mapproxy sisse konfitud), aga > globaalsete SRS-idega vaid Tegelikult QGIS-is tundub Mapniku kujundus päris adekvaatselt toimivat ka Eesti projektsioonis. WMS URL on http://kaart.maakaart.ee/service ja valid kihi "mapnik". Varasemaks on seal "osm"

[Talk-ee] Kaardiserver

2011-12-22 Thread Jaak Laineste
kaart.maakaart.ee kaardiserverit olen paar päeva nokkinud: - sillad on kujunduses parandatud - mod_tile ja renderd abil töötavad Mapnik kujundused (osm2pgsql baasi otsas mõistagi): valida saab vaikimisi standard-Mapnikut (kohalikus keeles, peaks täpselt sama tile olema mis tile.openstreetmap.o