大圆距离

令${\displaystyle \phi _{s},\lambda _{s};\ \phi _{f},\lambda _{f}\;\!}$  分别代表球面上两点的纬度和经度，(s代表出发点，f代表前往点)，${\displaystyle \Delta \phi ,\Delta \lambda \;\!}$  是两者差的绝对值，那么两点之间的圆心角可由球面余弦定律所给出:

${\displaystyle {\color {white}{\Big |}}\Delta {\widehat {\sigma }}=\arccos {\big (}\sin \phi _{s}\sin \phi _{f}+\cos \phi _{s}\cos \phi _{f}\cos \Delta \lambda {\big )}.\;\!}$ 

此两点间的大圆距离 d，即可根据弧长公式得出，

${\displaystyle d=r\,\Delta {\widehat {\sigma }}.\,\!}$ 

在两点之间的大圆距离相对球体的半径很短时，其圆心角很小，余弦函数接近于1，按照以上的反余弦函数公式会有较大的舍入误差。此时可使用半正矢函数的定义和两角和的余弦函数展开式求出使用半正矢函数计算大圆距离的公式。

${\displaystyle {\color {white}{\frac {\bigg |}{|}}}\Delta {\widehat {\sigma }}=2\arcsin \left({\sqrt {\sin ^{2}\left({\frac {\Delta \phi }{2}}\right)+\cos {\phi _{s}}\cos {\phi _{f}}\sin ^{2}\left({\frac {\Delta \lambda }{2}}\right)}}\right).\;\!}$ 

这就是在航海上运用广泛的半正矢公式，历史上会将距离和半正矢函数值的关系直接制成表格，方便使用^[1]。

矢量形式

另一种表达方式是使用出发点和到达点的法矢量与矢量的数量积、向量积和混合积来表达大圆距离^[2]

${\displaystyle {\begin{aligned}&\Delta {\hat {\sigma }}={\text{arccos}}\left({\boldsymbol {n}}_{es}^{e}\cdot {\boldsymbol {n}}_{ef}^{e}\right)\\&\Delta {\hat {\sigma }}={\text{arcsin}}\left(\left|{\boldsymbol {n}}_{es}^{e}\times {\boldsymbol {n}}_{ef}^{e}\right|\right)\\&\Delta {\hat {\sigma }}={\text{arctan}}\left({\frac {\left|{\boldsymbol {n}}_{es}^{e}\times {\boldsymbol {n}}_{ef}^{e}\right|}{{\boldsymbol {n}}_{es}^{e}\cdot {\boldsymbol {n}}_{ef}^{e}}}\right)\\\end{aligned}}\,\!}$ 

此处的${\displaystyle {\boldsymbol {n}}_{es}^{e}\,\!}$  and ${\displaystyle {\boldsymbol {n}}_{ef}^{e}\,\!}$  分别是起点和终点的n矢量。此处使用的是反正切函数，相对于反余弦函数较为精确，但如果原始数据是以经纬度形式给出，则需要先将经纬度数据转化成n矢量。

从弦长求大圆距离

链接球面上两点之间的线段就是这两点所在大圆上两点之间的弦，这条弦所对的圆心角可通过几何关系求出，然后再通过弧长公式求出这条弧的弧长，即两点间的大圆距离。^[3]

${\displaystyle {\begin{aligned}&\Delta {X}=\cos(\phi _{f})\cos(\lambda _{f})-\cos(\phi _{s})\cos(\lambda _{s});\\&\Delta {Y}=\cos(\phi _{f})\sin(\lambda _{f})-\cos(\phi _{s})\sin(\lambda _{s});\\&\Delta {Z}=\sin(\phi _{f})-\sin(\phi _{s});\\\end{aligned}}\,\!}$ 

${\displaystyle \mathbb {C} _{h}={\sqrt {(\Delta {X})^{2}+(\Delta {Y})^{2}+(\Delta {Z})^{2}}}}$ 

圆心角等于：

${\displaystyle \Delta {\widehat {\sigma }}=2\arcsin \left({\frac {C_{h}}{2}}\right).\,\!}$ 

大圆距离等于：

${\displaystyle d=r\Delta {\widehat {\sigma }}.\,\!}$ 

对于近似于球体的立体，比如地球。其形状接近一个表面平坦、赤道稍鼓（6378.137千米）、两极稍扁（6356.752千米）的扁球体。对其半径的估计有多种方法：^[4]国际大地测量学与地球物理学联合会定义地球的平均半径为：^[5]

${\displaystyle R_{1}={\frac {2a+b}{3}}\,\!}$ 

将极半径和赤道半径代入后，求出其平均半径为6,371.009千米（3,958.761英里）^[6]。知道地球的平均半径后，将所求两点的经纬度代入公式，即可求出两点间的大圆距离。