<div dir="auto"><div>Computing the min value is also requited if you have negative values and could also be useful If you wanted to optimize that method further by utilising the offset parameter (and or the scale, but computing the right combination for an optimize lossless compression could be more expensive). </div><div dir="auto"><br><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Fri, 22 Apr 2022, 06:05 Mike Taves, <<a href="mailto:mwtoews@gmail.com" target="_blank" rel="noreferrer">mwtoews@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On Fri, 22 Apr 2022 at 07:05, <<a href="mailto:Matt.Wilkie@yukon.ca" rel="noreferrer noreferrer" target="_blank">Matt.Wilkie@yukon.ca</a>> wrote:<br>
><br>
> Idea for a small but useful python tool: scan image for min/max values and convert to smallest possible bit depth without losing values. Surely someone has done something like this already. Any suggestions for where to look for prior art?<br>
<br>
This is driver-specific, as certain formats expect multiples of 2<br>
(e.g.) NBITS=1/2/4. But for GTiff, what I typically use in a script is<br>
to find the maximum value, then use "ceil(log(maxval, 2))" to get the<br>
number of bits, e.g.:<br>
<br>
from math import ceil, log<br>
from osgeo import gdal<br>
<br>
maxval = 17  # for example<br>
nbits = ceil(log(maxval, 2))  # 5<br>
<br>
drv = gdal.GetDriverByName("GTiff")<br>
opts = [f"NBITS={maxval}"]<br>
ds = drv.Create(fname, nx, ny, 1, gdal.GDT_Byte, opts)<br>
...<br>
<br>
similar can be done with rasterio, passing the keyword<br>
"rasterio.open(fname, 'w', ..., nbits=nbits)"<br>
<br>
For the drivers that expect NBITS as a multiple of 2:<br>
<br>
nbits = 2**ceil(log(nbits, 2))<br>
<br>
If nbits is greater than 8, then UInt16 or UInt32 may be required, as<br>
supported by the driver.<br>
_______________________________________________<br>
gdal-dev mailing list<br>
<a href="mailto:gdal-dev@lists.osgeo.org" rel="noreferrer noreferrer" target="_blank">gdal-dev@lists.osgeo.org</a><br>
<a href="https://lists.osgeo.org/mailman/listinfo/gdal-dev" rel="noreferrer noreferrer noreferrer" target="_blank">https://lists.osgeo.org/mailman/listinfo/gdal-d</a>e vroom<br>
</blockquote></div></div></div>