GPS の座標は小数点以下何桁あれば足りるのか

結論から

小数点以下 5 桁でおよそ 1 メートル、6 桁でおよそ 10 センチメートルの分解能になる。その先は、市販の GPS 受信機がとても裏付けられない精度を数字だけが記録している状態だ。それでも GPX ファイルはたいてい 6 桁以上を残す。その桁自体に意味があるからではなく、削ったところで得るものがなく、あとになって静かに代償を払うことがあるからだ。桁数が語っているのは数値の書き方であって、スマートフォンが自分の位置をどれだけ正確に把握していたかではない。

小数点以下の桁ひとつが実際に表すもの

緯度と経度は度で測られていて、1 度は決まった、しかも巨大な距離にあたる——緯度 1 度はおよそ 111 キロメートルだ。小数点以下の桁がひとつ増えるたびに、その距離は 10 分の 1 になる。だからこそ、桁がひとつ増えるだけで意味する広さが劇的に変わる。

• 小数第 1 位 ≈ 11.1 km — 隣の街と区別できる
• 小数第 2 位 ≈ 1.11 km — 隣の地区と区別できる
• 小数第 3 位 ≈ 111 m — 隣のブロックと区別できる
• 小数第 4 位 ≈ 11.1 m — 隣の建物と区別できる
• 小数第 5 位 ≈ 1.1 m — 歩幅ひとつ分ほど
• 小数第 6 位 ≈ 11 cm — 市販の GPS 受信機が実際に位置を特定できる精度をすでに超えている

経度も同じ理屈で動くが、1 度あたりの実際の距離は赤道から離れるほど縮んでいく。経線は極に向かって収束していくからだ。上の表は緯度についてはどの緯度でもほぼそのまま当てはまり、経度については赤道付近でよく当てはまる。それより高緯度では正確な換算というより、目安として使うのがちょうどいい。

それでも GPX ファイルが桁を全部残す理由

スマートフォンの GPS 受信機の精度が数メートルしかないのなら、11 センチメートル単位まで座標を残すのは余計に見える——ある意味では実際にそうだ。だがその余分な桁は、意味のあるコストを払っているわけではない。プレーンテキストのファイルの中の数文字にすぎず、「ちょうどよさそう」なところまで切り詰めたところで、もとの読み取り値がより正確になるわけでも不正確になるわけでもない。すでにそこにあった情報を捨てるだけだ。

一方で、丸めすぎることには実際の代償がある。それは保存の段階ではなく、計算の段階に現れる。距離は何千もの連続する点の間の差を足し合わせて求められ、獲得標高も点と点の間で同じように積み上げられる。その計算の前にすべての座標を小数第 4 位に丸めてしまうと、点ひとつひとつに小さくて一貫した誤差が入り込み、それは打ち消し合わずに山行の距離ぶんだけ積み重なっていく。座標そのものはフル精度のまま保ち、丸めるとしても最後の答えだけにとどめておけば、この問題は避けられる。

桁数は精度そのものではない

ここまでの話は、スマートフォンが自分の位置を 11 センチメートル単位まで実際に把握していたという意味ではない。小数点以下の桁数が語っているのは座標がどう書き表されているかであって、その座標を生んだ測位がどれだけ良かったかではない。実際の誤差が数メートルある受信機でも、緯度・経度は小数点以下 6 桁、7 桁まで平気で出力する——その細かさは数値の表現の仕方にすぎず、裏にある測位の質を主張しているわけではない。その数字が実際に立っていた場所とどれだけ近いかを決めるのは、受信機のハードウェアと、そのときの衛星の配置、そしてスマートフォンと開けた空の間に何があったかであって、座標の書式とはまったく別の話だ。

実際に効いてくる場面

小数点以下の桁数が実務で問題になるのは、生のファイルを手で編集したり見比べたりするときだ。GPX をスプレッドシートで開くと、緯度・経度の列をすっきり見えるように——小数点以下 7 桁を 4 桁や 5 桁に——丸めたくなる。それをしてから書き出し直すと、すべての点がわずかにずれる。たいていは登山道の幅より小さいずれだが、元のファイルと重ねてみると、まったく同じ線をなぞらない程度にはずれる。

同じ理屈で、同じ山行のはずの二つのアプリの書き出しファイルが、点ごとにきれいに一致しないことも説明がつく。片方のアプリが書き出し時にもう片方より強めに丸めていれば、同じ道を歩いていても座標はぴったりとは合わない——それは形式の違いであって、どちらかの記録が正確でないということではない。

つまずきやすいところ

• 小数点以下の桁が多いほど GPS の測位が正確だと思い込む——桁数は数値の書き方であって、測位の良し悪しを測ったものではない。
• ファイルを「きれいに」見せようとスプレッドシートで座標を丸める——これはトラックをわずかにずらしてしまい、消した桁はあとから取り戻せない。
• 同じ山行の二つのアプリの書き出しが、座標まできっちり重なると期待する——丸め方の違いだけで小さなずれは説明がつき、どちらかのトラックが間違っているわけではない。
• 小数点以下 6 桁を、センチメートル単位の精度の証拠だと考える——それは数値として表現できる上限であって、受信機が実際にどれだけの性能を出したかの下限ではない。

TrailCam の場合

TrailCam は iPhone の GPS 受信機が返してきた精度のまま各地点を記録し、GPX 1.1 でも CSV でも丸めずに書き出す。だからアプリから出てくるルートは、あとで整えられた版ではなく、山行の最中に記録された数字そのものだ。書き出しは任意の TrailCam Pro に含まれる機能で、アプリ自体のダウンロードは無料です。