[OSGeoJapan-discuss] GDALのPython版の精度

[Miura Hiroshi]

三浦です。

先月、基盤地図情報のコンバーターについて、取組をご紹介しました。
現在、テストケースで悩んでおり、皆さんの知見をお聞かせ頂きたいです。

FGDConvプロジェクト
https://github.com/miurahr/fgdconv

テスト結果
https://travis-ci.org/miurahr/fgdconv/builds/223815639

こちらの結果で、生成されるべきデータの正解を、GDALの
C＋＋版のコマンドで生成しました。
ところが、PythonのGDALで生成したものと、値が異なるというのです。

結果3132行目を細かく見ますと、
実際：139.718509733734
期待：139.718509733734379
のように、桁が3桁も違っています。値はあっているようです。

なぜ、こんなに桁の精度が違うのでしょう？

該当するコードは、この辺ですが、値をPython側で明示的に処理しているわけではないので、不思議に思っています。
https://github.com/miurahr/fgdconv/blob/master/fgdconv/ogr2ogr.py#L82

三浦
-------------- next part --------------
HTMLの添付ファイルを保管しました...
URL: <http://lists.osgeo.org/pipermail/osgeojapan-discuss/attachments/20170423/aea3d37e/attachment.html>