(1)
外積を使わない解き方。
A, B, C を含む平面上の点が (x, y, z)＝(2p, 4q, 3r) (p+q+r＝1)
と書けることから、
\(x^{2}\)+\(y^{2}\)+\(z^{2}\) が最小となる x, y, z を計算する。
ちなみに、(x, y, z)＝(\(\frac{72}{61}\), \(\frac{36}{61}\), \(\frac{48}{61}\)) となります。

(2)
2*4*(\(\frac{1}{2}\))*3*(\(\frac{1}{3}\))＝(三角形ABCの面積)*(線分OHの長さ)*(\(\frac{1}{3}\)) より、
求める面積は \(\sqrt{\quad}\)61 となります。

外積を使って解いてみよう。

\(\overrightarrow{AB}=(0,4,0)-(2,0,0)=(-2,4,0)\)

\(\overrightarrow{AC}=(0,0,3)-(2,0,0)=(-2,0,3)\)

Ｈ（ｘ，ｙ，ｚ）とおくと、 \(\overrightarrow{OH}=(x,y,z)\)

\(\frac{\overrightarrow{AB}\times \overrightarrow{AC}}{\vert \overrightarrow{AB}\times \overrightarrow{AC}\vert }=\frac{\overrightarrow{OH}}{\vert \overrightarrow{OH}\vert }\) ………①より

\(\overrightarrow{AB}\times \overrightarrow{AC}=\left|\)

\(=\left|\)

\(=12\overrightarrow{i}+6\overrightarrow{j}+8\overrightarrow{k}=(12,6,8)\)

\(\vert \overrightarrow{AB}\times \overrightarrow{AC}\vert =\sqrt{12^{2}+6^{2}+8^{2}}=2\sqrt{61}\)

外積の大きさは２つのベクトルで作る平行四辺形の面積だから

△ＡＢＣの面積＝ \(\frac{1}{2}\vert \overrightarrow{AB}\times \overrightarrow{AC}\vert =\sqrt{61}\) ………（答）

\(\overrightarrow{AH}\perp \overrightarrow{OH}\) より、内積 \(\overrightarrow{AH}\bullet \overrightarrow{OH}=0\)

\(\overrightarrow{AH}=(x,y,z)-(2,0,0)=(x-2,y,z)\)

\(x(x-2)+y^{2}+z^{2}=0\)

\(y^{2}+z^{2}=-x^{2}+2x\)

したがって、

\(\vert \overrightarrow{OH}\vert =\sqrt{x^{2}+y^{2}+z^{2}}=\sqrt{x^{2}-x^{2}+2x}=\sqrt{2x}\)

①に当てはめると、

\(\frac{(12,6,8)}{2\sqrt{61}}=\frac{(x,y,z)}{\sqrt{2x}}\)

座標を個々に求めると、

ｘ座標は　 \(\frac{12}{2\sqrt{61}}=\frac{x}{\sqrt{2x}}\)

２乗して、 \(\frac{36}{61}=\frac{x^{2}}{2x}\) ∴ \(x=\frac{72}{61}\)

同様にして、 \(y=\frac{36}{61},z=\frac{48}{61}\)

\(H(\frac{72}{61},\frac{36}{61},\frac{48}{61})\) ………（答）