<div dir="ltr"><br><br>On Mon, May 20, 2019 at 8:43 PM Vaclav Petras <<a href="mailto:wenzeslaus@gmail.com">wenzeslaus@gmail.com</a>> wrote:<br>><br>><br>><br>> On Mon, May 20, 2019 at 1:46 PM Markus Metz <<a href="mailto:markus.metz.giswork@gmail.com">markus.metz.giswork@gmail.com</a>> wrote:<br>>><br>>><br>>> On Mon, May 20, 2019 at 7:18 PM Vaclav Petras <<a href="mailto:wenzeslaus@gmail.com">wenzeslaus@gmail.com</a>> wrote:<br>>> ><br>>> > On Mon, May 20, 2019 at 11:57 AM Markus Metz <<a href="mailto:markus.metz.giswork@gmail.com">markus.metz.giswork@gmail.com</a>> wrote:<br>>> >><br>>> >> On Mon, May 20, 2019 at 5:39 PM Vaclav Petras <<a href="mailto:wenzeslaus@gmail.com">wenzeslaus@gmail.com</a>> wrote:<br>>> >> ><br>>> >> > Hi MarkusM and all,<br>>> >> ><br>>> >> > I'm trying to understand if the Segment_open() [1] function fills with zeros or not. I don't think it does since it is calling G_malloc (malloc) or Segment_format_nofill(). However, it is not completely clear to me what is supposed to be doing because documentation still says it calls Segment_format() and I don't understand context of the related commit [2, 3] and the usage of lseek and USE_LSEEK are not clear to me from format.c [4].<br>>> >><br>>> >> Segment_open() uses Segment_format_nofill() [1], if it can not use the all-in-memory cache. The documentation has not been updated accordingly (yet).<br>>> ><br>>> ><br>>> > Thank you. Just be to be sure: Now, if you want to ensure that it is zero-filled across platform, you need to do it yourself using Segment_put(), right?<br>>><br>>> All modules that use the segment lib use Segment_put() anyway to load data<br>><br>><br>> I'm asking about the case when I'm writing a new raster map. Let's say with point binning (r.in.lidar/r.in.pdal) or with a simulation I want the values to be initialized as zeros. I can use Segment_put(), but it seems that what Segment_format() is for. Hence the question about Segment_open_zero_fill() (as something more costly than Segment_open() but cheaper than Segment_open()+Segment_put()).<br><div><br></div><div>In this case I would rather initialize with NULL values. IIUC, Segment_get() will return all null bytes if lseek has been used and no data have been written out yet. Note that the all-in-memory cache uses malloc, not calloc (which it probably should), thus no initialization with zero bytes in this case.<br></div><div><br></div>>><br>>> > The exact role of lseek() here is still unclear to me (the hole and \0 bytes).<br>>> man lseek:<br>>>        lseek() allows the file offset to be set beyond the end of the file (but this does not change the size of the file).  If data is later  written<br>>>        at this point, subsequent reads of the data in the gap (a "hole") return null bytes ('\0') until data is actually written into the gap.<br>>><br>>> More info: disk space is allocated and file size increases only when actual data are written into the gap<br>><br>><br>> Thanks. I have seen this, but the segment library is not using the null bytes as zeros, or does it?<br><div><br></div><div>The segment lib does not interpret the bytes, it returns the bytes as is (actually a void pointer). The module then casts it to whatever it is supposed to be.<br></div><div>>  </div>> > ...<br>> >> The advantage of no fill, only lseek, is that it is faster, the disadvantage is that any "no space left on device" error will be encountered only later on, and you always need to check the return code of Segment_put().<br>> > ...<br>><br><div>> It seems that not all modules are doing this (e.g. r.cost). How big a problem that is? I guess the result is a truncated raster without a warning in case of "no space left on device".</div><div><br></div><div>Yes, the result would be either a truncated raster or earlier an error on reading. r.cost as other affected modules need to be updated to check the return value of Segment_[get|put]() and exit with fatal error on failure.<br></div><div><br></div><div>Markus M<br></div></div>