台形の上底を 2ax (0＜x＜1) とすると，高さは a\(\sqrt{\quad}\)(1-\(x^{2}\)) となり，
面積は、S(x)＝\(\frac{1}{2}\)･a\(\sqrt{\quad}\)(1-\(x^{2}\))(2a+2ax)=\(a^{2}\)｛x\(\sqrt{\quad}\)(1-\(x^{2}\))+\(\sqrt{\quad}\)(1-\(x^{2}\))｝.

微分して，S'（x）=\(a^{2}\)（1-x-2\(x^{2}\)）/\(\sqrt{\quad}\)（1-\(x^{2}\)）=-\(a^{2}\)（2x-1）（x+1）/\(\sqrt{\quad}\)（1-\(x^{2}\)）

よって，x=\(\frac{a}{2}\) のとき S（x）は極大かつ最大となり，最大値は 3\(\sqrt{\quad}\)\(\frac{3}{4}\)･\(a^{2}\)．

＜別解＞
上底の片方の頂点と，半円の中心を結び，下底とのなす角をθ（0°＜θ＜90°）とする．
上底が 2acosθ，高さが asinθ と表せて，
S（θ）＝\(\frac{1}{2}\)･（2acosθ+2a）asinθ＝\(a^{2}\){\(\frac{1}{2}\)･sin（2θ）+sinθ}．
微分して，S'（θ）＝\(a^{2}\)（2cosθ-1）（cosθ+1）
よって，θ=60°で極大かつ最大となる．

※増減表は省略しました。
（某教科書の例題にあったと思います。余談ですが。）