下のURLからフリーソフト『Maxima』をダウンロードして下さい。

http://prdownloads.sourceforge.ne\(\frac{t}{m}\)axim\(\frac{a}{m}\)axima-5.9.3.exe?us\(e_{m}\)irror=jaist

詳しくはツール(http://whs-math.ne\(\frac{t}{t}\)oo\(\frac{l}{t}\)ool.html)のコーナー
にも記載されていますが、単に計算問題の答えを知りたいだけなら『Maxima』を使った方が早いです。

＞微分せよ
＞ｙ=１／tan3x　

微分コマンドはdiffです。
『Maxima』を起動したら次のようにセミコロンまで入力して下さい。

diff(\(\frac{1}{t}\)an(3*x),x);

リターンキーを押せば解答が表示されます。

2問目は明らかに表記ミスですが、『Maxima』に計算させればすぐ解けるでしょう。