ベクトルaを(V)aと表します。
間違ってたらすみません・・・あまり自信ないので（笑）

(1)

(V)a・(V)b=|(V)a||(V)b|cos∠AOB
=2×\(\sqrt{\quad}\)3×1/\(\sqrt{\quad}\)3=2

(2)

(V)AC=t(V)AB=t{(V)b-(V)a}
また
(V)OC=(V)a+(V)AC=(V)a+t{(V)b-(V)a}=(1-t)(V)a+t(V)b
(V)AC⊥(V)OCより (V)AC・(V)OC=0
(V)AC・(V)OC=t{(V)b-(V)a}・{(1-t)(V)a+t(V)}
=3\(t^{2}\)-2t=0（途中計算省略しました、前問の結果を利用します。）
題意よりt≠0より
t=\(\frac{2}{3}\)

(3)

△OCBを直線EFで分割したと考えて
メネラウスの定理より
OF/FC×CE/BE×BD/DO=1
ここでAE:BE=2：1よりBE=AB
また前問より
(V)AC=t(V)AB=\(\frac{2}{3}\)(V)ABより
(V)CB=(V)AB-\(\frac{2}{3}\)(V)AB=\(\frac{1}{3}\)(V)AB
よって CE=AB+\(\frac{1}{3}\)AB=\(\frac{4}{3}\)AB
∴ CE/BE=\(\frac{4}{3}\)AB / AB=\(\frac{4}{3}\)
また、BD:DO=2：1より
BD/DO=2
∴ OF/FC × \(\frac{4}{3}\) ×2 = 1
OF/FC=\(\frac{3}{8}\)
OF:FC=3：8よりOF:OC=3：11
よって
(V)OF=\(\frac{3}{11}\)(V)OC
前問より
(V)OC
=(V)OC=(V)a+(V)AC=(V)a+t{(V)b-(V)a}=(1-t)(V)a+t(V)b
=\(\frac{1}{3}\)(V)a+\(\frac{2}{3}\)(V)bだったから
(V)OF=\(\frac{3}{11}\)(V)OC=\(\frac{3}{11}\)(V)a+\(\frac{2}{11}\)(V)b