ふ～ん･････これ結構面白い問題かもしれませんね。

まあ、いいや。フリー数式処理ソフトMAXIMAをダウンロードして下さい。
これを使ってみましょう。

MAXIMAダウンロード後、デスクトップ上のアイコンをダブルクリックすると次のような
画面が現れます。

Maxima 5.9.3 http://maxima.sourceforge.net
Using Lisp GNU Common Lisp (GCL) GCL 2.6.7 (aka GCL)
Distributed under the GNU Public License. See the file COPYING.
Dedicated to the memory of William Schelter.
This is a development version of Maxima. The function bu\(g_{r}\)eport()
provides bug reporting information.
(%i1)

これでMAXIMA起動成功です。
(%i1)ってのが｢入力待ち｣と言った意味です(恐らくinput"入力”その1、って意味です)。
ここに数式を入力するのが使い方です。
さて、微分コマンドですが、微分命令の書式は

diff(微分したい関数、微分する変数);

と;(セミコロン)まで入力します。ちょっとやっていってみましょう。

＞(logX\()^{2}\)のn次導関数は？

(%i1)の後に次のように入力します。

(%i1) diff((log(x)\()^{2}\),x);

そしてリターンキーを押すと次のように出力されます。


2 log(x)
(%o1) --------
x

(%o1)が出力で(恐らくoutput"出力"その1、って意味でしょう)、計算結果が表示されます。
1階微分の答えは2log\(\frac{x}{x}\)のようですね。
もう一回微分してみましょう。今度は次のように(%i2)の後に入力します。基本は同じです。

(%i2) diff(%o1,x);

今度の入力は数式の代わりに%o1と打っています。これは、前出力(%o1)を参照しろ、って
命令です。2階微分は1階微分を微分したものなんで、前出力を参照させたほうが面倒が
無いワケです。
リターンキーを押すと次のような結果になります。


2 2 log(x)
(%o2) -- - --------
2 2
x x

ちょっと見辛い表示でビックリするかもしれませんが(笑)、
2階微分は2/(\(x^{2}\))－2log(x)/(\(x^{2}\))のようですね。
またもや同様の作業を繰り返します。

(%i3) diff(%o2,x);

･･･････さて、5回も繰り返せば｢何らかの規則性｣も見えてくるんではないでしょうか?
試してみて下さい。
後は、数学的帰納法ででも証明すれば完璧でしょう。

＞logl1-\(X^{2}\)lのn次導関数は？

これもネタは同じですね。まずはMAXIMAに計算させてみましょう。

参考文献:

MAXIMA日本語マニュアル

MAXIMAの手引き

Maxima入門ノート

2つの問題のうち最初の問題だけですが、できました。

f(x)=(logx\()^{2}\)とおく。
このとき、fn(x)はf(x)の第n次導関数を表すものとする。

f1(x)=(2logx)/x であり、f2(x),f3(x)も計算すると
fn(x)={a(n)+b(n)logx}/(\(x^{n}\)) とかけると推測できる。

いま、このことを数学的帰納法により証明する。

(１)
n=1　のとき明らか。
a(1)=0,b(1)=2

(２)
あるnに対して推測が正しいと仮定すると
fn+1(x)=[{b(n)-na(n)}+{-nb(n)}logx]/{x^(n+1)}
となる。
a(n+1)=b(n)-na(n)・・・(A)
b(n+1)=-nb(n+1)・・・・(B)
とすれば、よい。

(１),(２)より、推測は正しい。

漸化式(B)を繰り返し用いて
b(n)=(-1)(n-1)b(n-1)
=(-1)(n-1)(-1)(n-2)b(n-2)
=(-1)(n-1)(-1)(n-2)・・・(-1)1b(1)
=2{(-1)^(n-1)}(n-1)!

これを、漸化式(A)に代入して、
a(n+1)=2{(-1)^(n-1)}(n-1)! -na(n)

この式の両辺を n!{(-1\()^{n}\)}で割ると
a(n+1)/[n!{(-1\()^{n}\)}]=-\(\frac{2}{n}\) -a(n)/[(n-1)!{(-1\()^{n}\)}]

=-\(\frac{2}{n}\) +a(n)/[(n-1)!{(-1)^(n-1)}]

これを繰り返し用いて
a(n)/[(n-1)!{(-1)^(n-1)}]
=-2∑[k=1,n-1](\(\frac{1}{k}\)) +a(1)
=-2∑[k=1,n-1](\(\frac{1}{k}\))　　　(n≧2)

ゆえに、
n≧2のとき、
a(n)=2{(-1\()^{n}\)}(n-1)!∑[k=1,n-1](\(\frac{1}{k}\))

n=1のとき
a(1)=0

以上から、
fn(x)=[a(n)+b(n)logx]/(\(x^{n}\))

ただし、
n≧2のとき、
a(n)=2{(-1\()^{n}\)}(n-1)!∑[k=1,n-1](\(\frac{1}{k}\))

n=1のとき
a(1)=0

b(n)=2{(-1)^(n-1)}(n-1)!

もう１問は、むずかしくてさっぱり分かりません。