<html>
<head>
<style><!--
.hmmessage P
{
margin:0px;
padding:0px
}
body.hmmessage
{
font-size: 10pt;
font-family:Verdana
}
--></style>
</head>
<body class='hmmessage'>
Thanks for the reply. This does improve the output (cubicspline works best), but still not great. So I increased the raster size by 10x and end up with an output of 500mb in size, which is difficult to work with.<br><br>Any other suggestions gratefully received.<br><br><br>&gt; Date: Mon, 5 Oct 2009 17:03:04 +0200<br>&gt; From: nowak@xpam.de<br>&gt; To: chrisemberson@hotmail.com<br>&gt; CC: chaitanya.ch@gmail.com; gdal-dev@lists.osgeo.org<br>&gt; Subject: Re: [gdal-dev] Anti-Aliasing<br>&gt; <br>&gt; Chris Emberson wrote:<br>&gt; &gt; The rasters do have colour tables applied, that are expressed using RGB <br>&gt; &gt; values, using gdaldem:<br>&gt; &gt; 75%    107    0    0<br>&gt; &gt; 50%    196    109    27<br>&gt; &gt; 25%    247    195    72<br>&gt; &gt; 0%    252    233    109<br>&gt; &gt; nv    0    0    0 0<br>&gt; &gt; <br>&gt; &gt; They are not derived from vector data however. I am unsure of your <br>&gt; &gt; requirement in terms of the source of the raster data. All of the pixel <br>&gt; &gt; values have been created and either fall between the values of 1-4 or <br>&gt; &gt; contain no data.<br>&gt; &gt; <br>&gt; &gt; The commands I am running on the files are:<br>&gt; &gt; gdal_translate -of GTiff -co "TILED=YES" -b 1 -b 1 -b 1 fileA.asc fileB.tif<br>&gt; <br>&gt; Upsample fileB.tif here:<br>&gt; gdalwarp -r bilinear -ts newwidth newheight fileB.tif fileB2.tif<br>&gt; Where newwidth and newheight are a few times larger than original.<br>&gt; <br>&gt; &gt; gdaldem color-relief fileB.tif rgb.txt fileC.tif -alpha<br>&gt; &gt; gdalwarp -s_srs EPSG:27700 -t_srs EPSG:900913 -r bilinear fileC.tif <br>&gt; &gt; fileD.tif<br>&gt; &gt; <br>&gt; &gt; an example of how the bilinear is working (fileD.tif) can be seen in the <br>&gt; &gt; attached file. I have tried running running the gdalwarp command above <br>&gt; &gt; prior to gdaldem but this makes little difference.<br>&gt; &gt; <br>&gt; &gt; TIA,<br>&gt; &gt; Chris<br>&gt; &gt; <br>&gt; &gt; <br>&gt; &gt; <br>&gt; &gt;  &gt; Date: Mon, 5 Oct 2009 16:46:55 +0530<br>&gt; &gt;  &gt; Subject: Re: [gdal-dev] Anti-Aliasing<br>&gt; &gt;  &gt; From: chaitanya.ch@gmail.com<br>&gt; &gt;  &gt; To: chrisemberson@hotmail.com<br>&gt; &gt;  &gt; CC: seth@pricepages.org; gdal-dev@lists.osgeo.org<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt; Chris,<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt; The images look like they have a colour table instead of RGB bands.<br>&gt; &gt;  &gt; Also, they seem to be converted from vector to raster. Correct me if I<br>&gt; &gt;  &gt; am wrong.<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt; Anti aliasing images with colour tables is a little more involved and<br>&gt; &gt;  &gt; depends on the type of result required. Can you provide the source for<br>&gt; &gt;  &gt; these images?<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt; One method would be to convert the image into RGB, apply bilinear or<br>&gt; &gt;  &gt; any other interpolation method, and convert it back to the colour<br>&gt; &gt;  &gt; table from RGB. If the source is a vector, we can smooth the shapes by<br>&gt; &gt;  &gt; using curves in place of straight lines.<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt; On Mon, Oct 5, 2009 at 3:59 PM, Chris Emberson<br>&gt; &gt;  &gt; &lt;chrisemberson@hotmail.com&gt; wrote:<br>&gt; &gt;  &gt; &gt; Seth,<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt; Thanks for the reply. The attached image hopefully will clarify the <br>&gt; &gt; problem<br>&gt; &gt;  &gt; &gt; I am having. On the left of the image is the output I would like (I <br>&gt; &gt; have<br>&gt; &gt;  &gt; &gt; produced this using a GIS). On the right is the output using mapnik and<br>&gt; &gt;  &gt; &gt; gdal. The problem is the pixellated effect between the raster <br>&gt; &gt; values on the<br>&gt; &gt;  &gt; &gt; RHS.<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt; The GIS isn't that great as far as batch processing is concerned, <br>&gt; &gt; hence why<br>&gt; &gt;  &gt; &gt; I am trying to use the GDAL utilities that ship with mapnik. The <br>&gt; &gt; option in<br>&gt; &gt;  &gt; &gt; the GIS that produces the desired effect is "anti-aliasing (bilinear<br>&gt; &gt;  &gt; &gt; interpolation)", but it appears as though there is a more sophisticated<br>&gt; &gt;  &gt; &gt; smoothing algorithm being employed? I have tried running the various<br>&gt; &gt;  &gt; &gt; interpolation techniques with gdalwarp but none of them produce a crisp<br>&gt; &gt;  &gt; &gt; output. I have tried also increasing the resolution of the raster by 5x<br>&gt; &gt;  &gt; &gt; (both width and height) using "gdal_translate" and  "-outsize 500% <br>&gt; &gt; 500%"<br>&gt; &gt;  &gt; &gt; this doesn't help either.<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt; Any suggestions gratefully received,<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt; Chris<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt;&gt; Date: Fri, 2 Oct 2009 12:36:24 -0500<br>&gt; &gt;  &gt; &gt;&gt; Subject: Re: [gdal-dev] Anti-Aliasing<br>&gt; &gt;  &gt; &gt;&gt; From: seth@pricepages.org<br>&gt; &gt;  &gt; &gt;&gt; To: chrisemberson@hotmail.com<br>&gt; &gt;  &gt; &gt;&gt; CC: gdal-dev@lists.osgeo.org<br>&gt; &gt;  &gt; &gt;&gt;<br>&gt; &gt;  &gt; &gt;&gt; Could you give an example of the problem? Anti-aliasing generally only<br>&gt; &gt;  &gt; &gt;&gt; applies when you are going from vector line drawings to rasterized <br>&gt; &gt; images.<br>&gt; &gt;  &gt; &gt;&gt;<br>&gt; &gt;  &gt; &gt;&gt; If I was trying to smooth things I would first look at cubic or <br>&gt; &gt; bilinear.<br>&gt; &gt;  &gt; &gt;&gt; Any other resampling may enhance any noise in your image.<br>&gt; &gt;  &gt; &gt;&gt; ~Seth<br>&gt; &gt;  &gt; &gt;&gt;<br>&gt; &gt;  &gt; &gt;&gt; On Fri, October 2, 2009 11:16 am, Chris Emberson wrote:<br>&gt; &gt;  &gt; &gt;&gt; &gt;<br>&gt; &gt;  &gt; &gt;&gt; &gt; I am looking for an anti-aliasing function to smooth out the <br>&gt; &gt; pixellated<br>&gt; &gt;  &gt; &gt;&gt; &gt; effect between raster values. I have tried the various interpolation<br>&gt; &gt;  &gt; &gt;&gt; &gt; methods with gdalwarp and have also increased the resolution of the<br>&gt; &gt;  &gt; &gt;&gt; &gt; raster<br>&gt; &gt;  &gt; &gt;&gt; &gt; to try and minimise the effect, to no avail.<br>&gt; &gt;  &gt; &gt;&gt; &gt; Is this a function to be added soon?<br>&gt; &gt;  &gt; &gt;&gt; &gt;<br>&gt; &gt;  &gt; &gt;&gt; &gt; Thanks,<br>&gt; &gt;  &gt; &gt;&gt; &gt; Chris<br>&gt; &gt;  &gt; &gt;&gt; &gt;<br>&gt; &gt;  &gt; &gt;&gt; &gt; _________________________________________________________________<br>&gt; &gt;  &gt; &gt;&gt; &gt; Share your photos with Windows Live Photos – Free.<br>&gt; &gt;  &gt; &gt;&gt; &gt;<br>&gt; &gt;  &gt; &gt;&gt; &gt; <br>&gt; &gt; http://clk.atdmt.com/UKM/go/134665338/direct/01/_______________________________________________<br>&gt; &gt;  &gt; &gt;&gt; &gt; gdal-dev mailing list<br>&gt; &gt;  &gt; &gt;&gt; &gt; gdal-dev@lists.osgeo.org<br>&gt; &gt;  &gt; &gt;&gt; &gt; http://lists.osgeo.org/mailman/listinfo/gdal-dev<br>&gt; &gt;  &gt; &gt;&gt;<br>&gt; &gt;  &gt; &gt;&gt;<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt; &gt; ________________________________<br>&gt; &gt;  &gt; &gt; New! Receive and respond to mail from other email accounts from within<br>&gt; &gt;  &gt; &gt; Hotmail Find out how.<br>&gt; &gt;  &gt; &gt; _______________________________________________<br>&gt; &gt;  &gt; &gt; gdal-dev mailing list<br>&gt; &gt;  &gt; &gt; gdal-dev@lists.osgeo.org<br>&gt; &gt;  &gt; &gt; http://lists.osgeo.org/mailman/listinfo/gdal-dev<br>&gt; &gt;  &gt; &gt;<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt;<br>&gt; &gt;  &gt; --<br>&gt; &gt;  &gt; Best regards,<br>&gt; &gt;  &gt; Chaitanya kumar CH.<br>&gt; &gt; <br>&gt; &gt; ------------------------------------------------------------------------<br>&gt; &gt; Add other email accounts to Hotmail in 3 easy steps. Find out how. <br>&gt; &gt; &lt;http://clk.atdmt.com/UKM/go/167688463/direct/01/&gt;<br>&gt; &gt; ------------------------------------------------------------------------<br>&gt; &gt; <br>&gt; &gt; <br>&gt; &gt; ------------------------------------------------------------------------<br>&gt; &gt; <br>&gt; &gt; _______________________________________________<br>&gt; &gt; gdal-dev mailing list<br>&gt; &gt; gdal-dev@lists.osgeo.org<br>&gt; &gt; http://lists.osgeo.org/mailman/listinfo/gdal-dev<br>&gt; <br>                                               <br /><hr />Add other email accounts to Hotmail in 3 easy steps. <a href='http://clk.atdmt.com/UKM/go/167688463/direct/01/' target='_new'>Find out how.</a></body>
</html>