Re: [Talk-de] seek (perl) in osm dateien

2010-07-28 Diskussionsfäden Jacques Nietsch
Hallo Frederik, Am 27.07.2010, 20:42 Uhr, schrieb Frederik Ramm frede...@remote.org: Hallo, Gary68 wrote: bin schon am probieren. trivial ist was anderes... die buffer sizes müssen sehr groß gewählt werden, was anscheinend zunächst zu problemen führt... Du kannst es bei Bedarf so bauen,

Re: [Talk-de] seek (perl) in osm dateien

2010-07-28 Diskussionsfäden Manuel Reimer
Jacques Nietsch wrote: Jeder Algorithmus der mit Blöcken arbeitet ist fehlerbehaftet, da mit gewisser Wahrscheinlichkeit eine Blockgrenze mitten in einen Tag fällt. Stimmt. Dafür gibt es aber einen ganz einfachen Fix. Man merkt sich einfach jeweils den letzten Block, den man gelesen hat,

Re: [Talk-de] seek (perl) in osm dateien

2010-07-28 Diskussionsfäden Frederik Ramm
Hallo, Jacques Nietsch wrote: Jeder Algorithmus der mit Blöcken arbeitet ist fehlerbehaftet, da mit gewisser Wahrscheinlichkeit eine Blockgrenze mitten in einen Tag fällt. Du musst einfach nur Blocks lesen, die mindestens zweimal so gross wie die groesste Zeile sind, und dann den den

[Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Gary68
hi, mir war so, als hätte mal jemand ein paar routinen geschrieben, um mit einem file handle schnell an bestimmte stellen in osm files zu gelangen. also zum start der ways oder dem start der relations im speziellen. hat jemand einen tip, wo? danke gerhard

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Frederik Ramm
Hi, Gary68 wrote: mir war so, als hätte mal jemand ein paar routinen geschrieben, um mit einem file handle schnell an bestimmte stellen in osm files zu gelangen. also zum start der ways oder dem start der relations im speziellen. hat jemand einen tip, wo? Binaere Suche in Textfiles, mein

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Manuel Reimer
Gary68 wrote: mir war so, als hätte mal jemand ein paar routinen geschrieben, um mit einem file handle schnell an bestimmte stellen in osm files zu gelangen. also zum start der ways oder dem start der relations im speziellen. hat jemand einen tip, wo? Hm... Mit Seek wird das nix, denn man

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Gary68
ich denke schon, dass es mit seek geht. natürlich muss man an der stelle dann auch lesen. stichwort binäre suche. frederiks lösung ist fast perfekt. werde es bald testen. zeilenweise ist für viele zwecke ausreichend, aber nicht für alle. z.b. wenn man alle relationen, dann alle enthaltenen wege

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Werner Hoch
Hallo gerhard, On Dienstag, 27. Juli 2010, Gary68 wrote: mir war so, als hätte mal jemand ein paar routinen geschrieben, um mit einem file handle schnell an bestimmte stellen in osm files zu gelangen. also zum start der ways oder dem start der relations im speziellen. hat jemand einen tip,

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Gary68
danke, aber ich brauche es in perl. ich glaube aber, durch dich bin ich drauf gekommen, seinerzeit. bzip ist cool. ich werde es nur für osm files machen. bin schon am probieren. trivial ist was anderes... die buffer sizes müssen sehr groß gewählt werden, was anscheinend zunächst zu problemen

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Frederik Ramm
Hallo, Gary68 wrote: bin schon am probieren. trivial ist was anderes... die buffer sizes müssen sehr groß gewählt werden, was anscheinend zunächst zu problemen führt... Du kannst es bei Bedarf so bauen, dass die Buffergroesse dynamisch erhoeht wird, wenn nichts gefunden wird. Bye Frederik

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Gary68
jaja, die idee kam mir eben bei rc car fahren ;-) aber gibt es ein limit beim read befehl? irgendwie ist gerade der wurm drin. aber was will man nach einem langen arbeitstag und kindergeschrei noch erwarten? ciao gerhard On Tue, 2010-07-27 at 20:42 +0200, Frederik Ramm wrote: Hallo,

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Manuel Reimer
Gary68 wrote: zeilenweise ist für viele zwecke ausreichend, aber nicht für alle. z.b. wenn man alle relationen, dann alle enthaltenen wege und nodes lesen will. dann fängt man hinten an. je nach dateigröße, z.b. 9,x GB für deutschland, kann man ganz schön sparen. und alles in den speicher lesen

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Manuel Reimer
Gary68 wrote: aber gibt es ein limit beim read befehl? http://perldoc.perl.org/functions/read.html Gruß Manuel ___ Talk-de mailing list Talk-de@openstreetmap.org http://lists.openstreetmap.org/listinfo/talk-de

Re: [Talk-de] seek (perl) in osm dateien

2010-07-27 Diskussionsfäden Gary68
genau. in dem beispiel erst alle relationen lesen, dann alle ways lesen, aber nur speichern, was ich brauche etc. mir geht es nur darum, schneller an bestimmte stellen vorzustoßen. bei den großen dateien, die ich jede woche verarbeite, bringt das schon einiges. On Tue, 2010-07-27 at 23:39