Ｓ(α)＝(\(\frac{1}{2}\))|sin２α・cosα＋sinα・cos２α|
＝(\(\frac{1}{2}\))|２sinα・co\(s^{2}\)α＋sinα・(１－２si\(n^{2}\)α)|
＝(\(\frac{1}{2}\))|２sinα・(１－si\(n^{2}\)α)＋sinα－２si\(n^{3}\)α|
＝(\(\frac{1}{2}\))|３sinα－４si\(n^{3}\)α|
＝(\(\frac{1}{2}\))|sin３α|
０＜α＜π/3　より　０＜３α＜π
∴　sin３α＞０
したがって
Ｓ(α)＝(\(\frac{1}{2}\))・sin３α・・・（答）

Ｓ(α)が最大となるのは、sin３αが最大となるときで、
０＜３α＜π　で　sin３αが最大となるのは
３α＝π/2のときだから、α＝π/6・・・（答）

α＝π/6のとき
Ａ(\(\sqrt{\quad}\)\(\frac{3}{2}\)，-\(\frac{1}{2}\)），Ｂ(\(\frac{1}{2}\)，\(\sqrt{\quad}\)\(\frac{3}{2}\))だから
ＯＡ＝ＯＢ＝1　ＡＢ＝\(\sqrt{\quad}\)2
よって、△ＯＡＢは
ＯＡ＝ＯＢ＝1の直角二等辺三角形・・・（答）