<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Apr 13, 2016 at 8:19 PM, Even Rouault <span dir="ltr"><<a href="mailto:even.rouault@spatialys.com" target="_blank">even.rouault@spatialys.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><span class="">Le mercredi 13 avril 2016 20:05:27, Paulo van Breugel a écrit :<br>
> I just opened a raster layer (asci layer), with real numbers with 6<br>
> decimals.<br>
><br>
> When click with the 'Identify Features' tool on a raster cell it shows many<br>
> more decimals, e.g., 83.32058715820312 for a raster cell that has value<br>
> 83.320587 (as can be easily checked by opening the layer as text file).<br>
><br>
> Any idea what I am missing here?<br>
<br>
</span>The raster is probably recognized as a Float32 raster (or is exposed as<br>
Float64), but the Identify tool  displays with the precision of a 64-bit<br>
floating point number. And due to how floating point computation works, the<br>
extension from 32 to 64 bit is done with working with the IEEE-754 binary<br>
representation and not the decimal representation, hence 83.320587f gets<br>
converted as 83.32058715820312.<br>
<br>
For example with Python :<br>
print struct.unpack('f', struct.pack('f', 83.320587))<br>
(83.32058715820312,)<br>
<br>
If the raster is exposed as a Float32 (which is likely if it is recognized by<br>
the AAIGRID driver : <a href="http://gdal.org/frmt_various.html#AAIGrid" rel="noreferrer" target="_blank">http://gdal.org/frmt_various.html#AAIGrid</a> ), then the<br>
Identify tool could be improved to respect this precision.<br></blockquote><div><br></div><div>Using gdalinfo shows that the raster layer is recognized as Type=Float32. Would be good if the Identify tool could respect this precision. <br><br>Just to add, if I upload the raster values to a point layer (using v.what.rast.points), the correct numbers (with the right number of decimals) are uploaded.<br><br><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<span class=""><font color="#888888"><br>
--<br>
Spatialys - Geospatial professional services<br>
<a href="http://www.spatialys.com" rel="noreferrer" target="_blank">http://www.spatialys.com</a><br>
</font></span></blockquote></div><br></div></div>