完全解答にいたらないのですが，未解決問題の方に移ったのであえて解答してみます。
解答にいたらない原因として，計算ミスをしているor他の解法が存在する(文系の範囲
というのがネック)のどちらかだと思いますが，検証できませんのでご容赦ください。

（１）
Ｂ，Ｃを通る直線は，y=mx+\(\frac{4}{5}\) だから，
B(α,mα+\(\frac{4}{5}\)),C(β,mβ+\(\frac{4}{5}\))とおける。(α＞β)
△BCDにおいて，BCを底辺とすれば，その三角形の高さは，
点D(0,-1)と直線BCつまりy=mx+\(\frac{4}{5}\)の距離dに等しい。
つまり
S(m)=d・BC/2

まずdを求める。
点と直線の距離の公式を用いて，
d
=l0+1+\(\frac{4}{5}\)l/\(\sqrt{\quad}\)(\(m^{2}\)+1)
=9/{5\(\sqrt{\quad}\)(\(m^{2}\)+1)}

次に，
B\(C^{2}\)
=(α-β\()^{2}\)+{(mα+\(\frac{4}{5}\))-(mβ+\(\frac{4}{5}\))}^2
=(\(m^{2}\)+1)(α-β\()^{2}\)
よって
BC
=(α-β)\(\sqrt{\quad}\)(\(m^{2}\)+1)　(∵α＞β)
ここでα，βは\(x^{2}\)+\(y^{2}\)=1とy=mx+\(\frac{4}{5}\)の解であることから，
\(x^{2}\)+(mx+\(\frac{4}{5}\)\()^{2}\)=1
(\(m^{2}\)+1)\(x^{2}\)+(8\(\frac{m}{5}\))x-\(\frac{9}{25}\)=0 において，
解と係数の関係から
α+β=-(8\(\frac{m}{5}\))/(\(m^{2}\)+1)
αβ=-(\(\frac{9}{25}\))/(\(m^{2}\)+1)を満たす。
よって
α-β
=\(\sqrt{\quad}\){(α+β\()^{2}\)-4αβ}
=\(\sqrt{\quad}\)[{-(8\(\frac{m}{5}\))/(\(m^{2}\)+1)}^2-4*{-(\(\frac{9}{25}\))/(\(m^{2}\)+1)}]
=… 　　この辺が一番怪しいのですが…
={2\(\sqrt{\quad}\)(25\(m^{2}\)+9)}/{5(\(m^{2}\)+1)}

BC
=(α-β)\(\sqrt{\quad}\)(\(m^{2}\)+1)　に代入して
={2\(\sqrt{\quad}\)(25\(m^{2}\)+9)}/{5(\(m^{2}\)+1)}*\(\sqrt{\quad}\)(\(m^{2}\)+1)
={2\(\sqrt{\quad}\)(25\(m^{2}\)+9)}/{5\(\sqrt{\quad}\)(\(m^{2}\)+1)}

以上のものを
S(m)=d・BC/2 に代入して
S(m)
=[9/{5\(\sqrt{\quad}\)(\(m^{2}\)+1)}]*[{2\(\sqrt{\quad}\)(25\(m^{2}\)+9)}/{5\(\sqrt{\quad}\)(\(m^{2}\)+1)}]/2
={9\(\sqrt{\quad}\)(25\(m^{2}\)+9)}/{25(\(m^{2}\)+1)}


（２）
点Ｂのx座標は正、点Ｃのy座標は負だから，
mが最小となるのは，A(0,\(\frac{4}{5}\))とD(-1,0)を通るときである。
つまり
m≧\(\frac{4}{5}\)
この範囲において，（１）で得られた答えを微分して最小値を求めればよい。

…のですが，文系レベルでは，この微分ができません。
以上お力になれず申し訳ありません。他の優秀な解答者の方をお待ちください。