A 点における仰角を \theta_A, A 点から a 離れた B 点における仰角を
\theta_Bとして、A 点から山頂までの距離を x, 山の高さを y とすると、
y / x = \tan \theta_A,
y / (x + a) = \tan \theta_B,
したがって、
x = a \tan \theta_B / (\tan \theta_A - \tan \theta_B),
y = a \tan \theta_A \tan \theta_B / (\tan \theta_A - \tan \theta_B). □

山頂を C，山頂から地表へおろした垂線の足を H とおきます。
H を通る水平な直線上に A, B があるとします。
H に近い方（山に近い方）の点を B とします。
AB 間の距離を x, BH 間の距離を y，山の高さ CH を h とおきます。
A から C を仰ぎ見たときの仰角をα，B から C を仰ぎ見たときの
仰角をβとおきます。
三角形 CAH，CBH はいずれも直角三角形なので，
tanα=CH/AH=h/(x+y)，tanβ=CH/BH=\(\frac{h}{y}\)
が成り立ちます。a=tanα，b=tanβとおくと，
h=a(x+y)=by
が成り立ちます。a(x+y)=by より y=ax/(b-a) となり，これを h=by に代入すると
h=abx/(b-a) を得ます。
つまり，測定でわかっている量（仰角の正接およびAB間の距離）のみで
山の高さを表す式になっています。

何か設定を勘違いしているかもしれないので自信はありませんが，
とりあえずこんな感じです。