Excelで緯度経度を平面直角座標に変換できる? — 数式で組める範囲と、測地系の変換だけ表計算に載らない理由

,

Excelで緯度経度を平面直角座標に変換できる? — 数式で組める範囲と、測地系の変換だけ表計算に載らない理由

Excelで緯度経度を平面直角座標に変換できる? — 数式で組める範囲と、測地系の変換だけ表計算に載らない理由

できます。ただし「同じ測地系の中での投影計算」に限ります。 緯度経度から平面直角座標への換算は級数(足し算とsin・cosの並び)で書けるので、表計算の数式で組めます。一方、旧日本測地系から世界測地系への変換やセミ・ダイナミック補正は、地域ごとの実測値が入った格子表を引く処理なので、数式では書けません。この2つを混同すると、数百mまたは数十cmの誤りが静かに混ざります。


表計算でできること・できないこと

やりたいこと 数式で組めるか 理由
度分秒 ↔ 10進度 ◎ 四則演算だけ
緯度経度 → 平面直角座標(同じ測地系の中) ○ 級数展開。三角関数と定数だけで閉じる
平面直角座標 → 緯度経度(同じ測地系の中) ○ 同上(逆算の級数)
2点間の距離・方位角 ○ 楕円体上の公式で閉じる
楕円体高 ↔ 標高 × ジオイドモデルの格子を引く
旧日本測地系(Tokyo) ↔ 世界測地系 × TKY2JGDのパラメータ格子を引く
セミ・ダイナミック補正(元期↔今期) × 年度ごとに更新される格子を引く
地震後の補正(PatchJGD・JGD2024系) × 同上

境目は単純です。式で書けるものは組める。実測値の表を引くものは組めない。


投影計算が数式に載る理由

平面直角座標系は、回転楕円体を系ごとの原点でガウス・クリューゲル図法に投影したものです。国土地理院が公開している換算方法は級数で整理されていて、必要なのは次の材料だけです。

  • 楕円体定数:GRS80 長半径 a = 6,378,137 m、扁平率の逆数 1/f = 298.257222101
  • 系ごとの原点(緯度・経度)と縮尺係数 m0 = 0.9999、座標系原点への加算値
  • 三角関数(SIN・COS・TAN・ATAN)と累乗

つまり外部データを一切参照しません。だから1枚のシートで完結します。式の中身はガウス・クリューゲル図法の計算式と平面直角座標から緯度経度へ戻す式にまとめてあります。


それでも表計算で事故が起きる3か所

1. 三角関数の引数はラジアン

表計算の SIN・COS はラジアンを取ります。度の数値をそのまま渡してもエラーにならず、それらしい値が返ってくるのが最悪の性質です。

式 返る値
=SIN(35) (35ラジアンと解釈) −0.4282
=SIN(RADIANS(35)) (35度) 0.5736

符号まで変わっているのに、どちらも「計算できた」ように見えます。緯度経度を扱うシートでは、入口で一度だけ RADIANS() を通し、以降はラジアン列だけを使うという決めごとを作るのが安全です。

2. 「表示されている桁」をコピーしてしまう

表計算の内部精度は15桁程度あるので、平面直角座標のmmを保つには十分です。問題は表示の丸めです。緯度経度を度で持つとき、

  • 小数第7位(0.0000001度)≒ 約1.1 cm
  • 小数第9位(0.000000001度)≒ 約0.1 mm

つまり小数第6位で表示された値をコピー&値貼り付けすると、その時点で十数cmの丸めが確定します。桁と精度の関係は座標の小数、どこまで意味がある?に整理しています。

3. XとYの取り違え、系番号の取り違え

表計算は列見出しが「X」「Y」でも、それが北か東かを教えてくれません。測量の平面直角座標系ではXが北、Yが東で、数学やGISの慣習と逆です。1つのブックの中で列の意味が混ざるのは、手作業の現場で最も多い事故です。平面直角座標のXとYはどっちが北?と系番号の選び方を先に押さえてから組んでください。


「格子を引く」変換が数式にならないのはなぜか

旧日本測地系と世界測地系のずれは、全国一律ではありません。地域によって向きも量も違い、その値は実測から作られた格子表として配布されています。TKY2JGDのパラメータは緯度30秒×経度45秒のメッシュごとに補正量を持ち、変換したい点を囲む4点から双一次補間で求めます。

  • 式ではなく表なので、シートに数式として書き下すことができない
  • 格子の外(海上・国外など)には値がなく、そもそも変換できない領域がある
  • セミ・ダイナミック補正のパラメータは年度ごとに更新されるため、貼り込んだ表はいずれ古くなる

ファイルの中身はTKY2JGD.parファイルとは、補間のしかたは格子補正と双一次補間、年度更新の考え方はセミ・ダイナミック補正とはにあります。

「全国の格子をシートに貼って補間を組む」ことは理屈のうえでは可能ですが、更新のたびに貼り直しが必要な資産を自分の手元に作ることになります。ここは表計算の仕事ではありません。


実務での落としどころ

CSVを入力して座標変換し、CSVとして出力するデータフロー

工程 担当
点名・属性の整形、重複チェック、度分秒の分解 表計算
測地系の変換・補正・ジオイド 専用ツール(格子データを持っているもの)
投影計算(緯度経度 ↔ 平面直角座標) どちらでも可。件数が多ければツール側
検算(既知点との突き合わせ) 表計算

受け渡しはCSVにするのが確実です。列の順序と文字コードだけ決めておけば、往復できます。CSVでまとめて変換する手順はCSV変換ガイドにあります。

検算のすすめ:自分で組んだシートは、必ず座標が分かっている点で答え合わせをしてください。国土地理院の換算結果と突き合わせた検証は国土地理院の計算結果と全テスト点で比較するにまとめてあります。同じやり方を自作シートに当てればよいだけです。


まとめ

  • 緯度経度 ↔ 平面直角座標の投影計算は表計算で組める。外部データを参照しないため
  • 測地系変換・セミ・ダイナミック補正・ジオイドは格子表を引く処理なので、数式では組めない
  • 表計算側の事故は「ラジアン」「表示桁のコピー」「XとYの取り違え」の3つに集中する
  • 整形と検算は表計算、変換はツール。受け渡しはCSV

出典

  • 国土地理院「Gauss-Krüger投影における経緯度座標及び平面直角座標相互間の座標換算についてのより簡明な計算方法」 https://www.gsi.go.jp/common/000061216.pdf
  • 国土地理院「測量の基準」(世界測地系・GRS80楕円体の要素) https://www.gsi.go.jp/sokuchikijun/datum-main.html
  • 国土地理院「プレート運動による地殻変動の補正(セミ・ダイナミック補正)」 https://www.gsi.go.jp/sokuchikijun/semidyna.html
  • 国土地理院「公共測量における地殻変動補正パラメータについて」 https://www.gsi.go.jp/sokuchikijun/semidyna-seika.html

次に確認する


開発者より: アプリ・Kindle本・公開プロジェクトの一覧は GitHub: amru195704 にまとめています。


お願い
本記事の情報は参考目的で掲載しており、正確性・完全性を保証するものではありません。誤記・不正確な情報がございましたら、コメント欄よりご指摘いただければ、確認のうえ修正いたします。


コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

トップへ戻る