（１）だけできましたが、（２）は右辺からの特殊解がうまく出せませんので、
途中までです。

（１）
ｙ″－２ｙ′＋２ｙ＝\(ｅ^{x}\)・cosｘは二階線形微分方程式と言います。
まず、補助方程式（左辺＝０としたもの）ｙ″－２ｙ′＋２ｙ＝０の係数が
定数のときは、次のようにして一般解を求めます。

この補助方程式の固有方程式\(m^{2}\)－２ｍ＋２＝０の判別式から
Ｄ＝\((-2)^{2}\)－４・１・２＝４－８＝－４＜０
このとき、一般解は、ｙ＝\(ｅ^{αx}\)・｛Ａsin（βｘ）＋Ｂcos（βｘ）｝
となる。ただし、α\(\pm\)βｉは固有方程式の解となる。

（Ｄ＞０のときは、ｙ＝Ａ\(ｅ^{mx}\)＋Ｂ\(ｅ^{nx}\)
　　　　　　　　　ただし、ｍ，ｎは固有方程式の解である。
　Ｄ＝０のときは、ｙ＝\(ｅ^{mx}\)・（Ａｘ＋Ｂ）
　　　　　　　　　ただし、ｍは固有方程式の重解である。）
上のＡとＢは任意の定数

固有方程式\(m^{2}\)－２ｍ＋２＝０を解くと、ｍ＝１\(\pm\)ｉ
よって、α＝１、β＝１
したがって、一般解は、ｙ＝\(ｅ^{x}\)・｛Ａsin（ｘ）＋Ｂcos（ｘ）｝となる。

次に、特殊解を求めるのだが、
右辺\(ｅ^{x}\)・cosｘからｙ＝\(ｅ^{x}\)・（Ｅsinｘ＋Ｆcosｘ）とおいて、
　　　　　　　　　　　^^^^　　^^^^^^^^^^^^^^^
　　　　　　　　　　　　↑　　　　　　↑
　　　　　　　　　　　\(ｅ^{x}\)と同じ　　三角関数のときはこの形

これで計算して求めるのだが、うまくいかないときは、次のようにする。
（今回の場合はうまくいかないので次のようにする）
ｙ＝ｘ・\(ｅ^{x}\)・（Ｅsinｘ＋Ｆcosｘ）とｘを前につけて計算する。

ｙ′＝\(ｅ^{x}\)・｛（Ｅ＋Ｅｘ－Ｆｘ）sinｘ＋（Ｆ＋Ｆｘ＋Ｅｘ）cosｘ｝
ｙ″＝\(ｅ^{x}\)・｛（２Ｅ－２Ｆ－２Ｆｘ）sinｘ＋（２Ｅ＋２Ｆ＋２Ｅｘ）cosｘ｝

ｙ″－２ｙ′＋２ｙ＝\(ｅ^{x}\)・cosｘに代入して、
\(ｅ^{x}\)・｛（２Ｅ－２Ｆ－２Ｆｘ）sinｘ＋（２Ｅ＋２Ｆ＋２Ｅｘ）cosｘ｝
　　－２\(ｅ^{x}\)・｛（Ｅ＋Ｅｘ－Ｆｘ）sinｘ＋（Ｆ＋Ｆｘ＋Ｅｘ）cosｘ｝
　　　　＋２ｘ・\(ｅ^{x}\)・（Ｅsinｘ＋Ｆcosｘ）＝\(ｅ^{x}\)・cosｘ
左辺を計算した後、左右を見比べて、Ｅ＝\(\frac{1}{2}\)、Ｆ＝０
したがって、特殊解はｙ＝ｘ・\(ｅ^{x}\)・\(\frac{1}{2}\)sinｘ

一般解＋特殊解より、
ｙ＝\(ｅ^{x}\)・｛Ａsin（ｘ）＋Ｂcos（ｘ）｝＋\(\frac{1}{2}\)ｘ・\(ｅ^{x}\)・sinｘ……（答）

（２）
\(x^{2}\)・ｙ″＋３ｘｙ′＋ｙ＝\(\frac{1}{（１－ｘ）^{2}}\)
補助方程式\(x^{2}\)・ｙ″＋３ｘｙ′＋ｙ＝０の係数がｘの関数なので、
（１）のようにはいかない。
そこで、ｘ＝\(e^{t}\)　とおいて変形する。ｔ＝logｘ
\(\frac{dt}{dx}\)＝\(\frac{1}{x}\)
ｙ′＝\(\frac{dy}{dx}\)＝\(\frac{dy}{dt}\)・\(\frac{dt}{dx}\)＝\(\frac{dy}{dt}\)\(\frac{1}{x}\)
したがって、ｘｙ′＝\(\frac{dy}{dt}\)
同様にして、\(x^{2}\)・ｙ″＝\(\frac{d^{2}y}{dt^{2}}\)－\(\frac{dy}{dt}\)

これを代入して、
\(\frac{d^{2}y}{dt^{2}}\)－\(\frac{dy}{dt}\)＋３\(\frac{dy}{dt}\)＋ｙ＝０
\(\frac{d^{2}y}{dt^{2}}\)＋２\(\frac{dy}{dt}\)＋ｙ＝０
固有方程式　\(m^{2}\)＋２ｍ＋１＝０　の判別式Ｄ＝０より、重解ｍ＝－１
したがって、一般解は
ｙ＝\(e^{-x}\)・（Ａｘ＋Ｂ）

右辺\(\frac{1}{（１－ｘ）^{2}}\)　から特殊解を出すわけだが、分数関数のときは、
どのようにおくのか、分からないので、ここでストップ………？？？

再質問：２８８１の（２）の特殊解についてどなたかわかる方、教えて下さい。

2) x=\(e^{t}\) と置いてしまうと、x＜0 の部分を無視する形になってしまうので、
別の考えで行きました。

y=\(\frac{u}{x}\) と置くと、
　y'=\(\frac{u'}{x}\) -\(\frac{u}{x^{2}}\)
　y''=\(\frac{u''}{x}\) - 2\(\frac{u'}{x^{2}}\) + 2\(\frac{u}{x^{3}}\)

これを与方程式に代入、
　\(x^{2}\)(\(\frac{u''}{x}\)-2\(\frac{u'}{x^{2}}\)+2\(\frac{u}{x^{3}}\)) + 3x(\(\frac{u'}{x}\)-\(\frac{u}{x^{2}}\)) + \(\frac{u}{x}\) = \(\frac{1}{（１－ｘ）^{2}}\)
　xu''+u' = \(\frac{1}{（１－ｘ）^{2}}\)

u'=\(\frac{v}{x}\) と置くと、
　u''=\(\frac{v'}{x}\)-\(\frac{v}{x^{2}}\)

これを代入
　x(\(\frac{v'}{x}\)-\(\frac{v}{x^{2}}\))+\(\frac{v}{x}\) = \(\frac{1}{（１－ｘ）^{2}}\)
　v'=\(\frac{1}{（１－ｘ）^{2}}\)

よって、v=\(\frac{1}{１－ｘ}\) + \(C_1\)
u'=\(\frac{v}{x}\)=\(\frac{1}{x(1-x)}\)+ \(C_1\)\(\frac{1}{x}\) = \(\frac{1+C_1}{x}\)+ \(\frac{1}{1-x}\) より
u = (1+\(C_1\))log|x|-log|x-1| + \(C_2\)
A=1+\(C_1\), B=\(C_2\) と置きなおすと、
u = Alog|x|-log|x-1|+B
y = \(\frac{Alog|x|-log|x-1|+B}{ｘ}\)

どなたか特殊解の解法を教えて下さい。

angelさんが既に解答されていますが，某テキストに忠実に解いてみます。
カッコの表現がわかりにくいので，一度紙面に書き直してみてください。

(\(x^{2}\))y''+3xy'+y=\(\frac{1}{(1-x)^{2}}\)
この微分方程式はオイラー型微分方程式である。
x=\(e^{t}\)　とおいて\(\frac{d}{d}\)x=D を \(\frac{d}{d}\)t=Δ に移せば
(\(x^{2}\))y''+3xy'+y
=(\(x^{2}\))(\(D^{2}\))y+3xDy+y
=Δ(Δ-1)y+3Δy+y
={(Δ+1\()^{2}\)}y
つまり
{(Δ+1\()^{2}\)}y=\(\frac{1}{(1-e^{t})^{2}}\)

{(Δ+1\()^{2}\)}y=0 の一般解\(y_{c}\)は
\(y_{c}\)
=(C1+C2*t)\(e^{-t}\)
=\(\frac{C1+C2*log|x|}{x}\)

次に特殊解\(y_{0}\)は
{(Δ+1\()^{2}\)}\(y_{0}\)=\(\frac{1}{(1-e^{t})^{2}}\)より
\(y_{0}\)
=\(\frac{1}{(Δ+1)^{2}}\)*\(\frac{1}{(1-e^{t})^{2}}\)
=\(\frac{1}{Δ+1}\)*\(\frac{1}{Δ+1}\)*\(\frac{1}{(1-e^{t})^{2}}\)
=\(\frac{1}{Δ+1}\)*\(e^{-t}\)*\(\int\frac{e^{t}}{(1-e^{t})^{2}}\)dt
=\(\frac{1}{Δ+1}\)*\(e^{-t}\)*\(\frac{1}{1-e^{t}}\)
=\(e^{-t}\)*\(\int\frac{(e^{t})*(e^{-t})}{1-e^{t}}\)dt
=\(e^{-t}\)*\(\int\frac{1}{1-e^{t}}\)dt

\(e^{t}\)=uとおいてdt=(\(\frac{1}{e^{t}}\))du=(\(\frac{1}{u}\))duより
\(y_{0}\)
=\(e^{-t}\)*\(\int\frac{1}{u(1-u)}\)du
=\(e^{-t}\)*\(\int(\frac{1}{u}+\frac{1}{1-u}\))du
=\(e^{-t}\)*(log|u|-log|u-1|+C)
=\(e^{-t}\)*(log|\(e^{t}\)|-log|(\(e^{t}\))-1|+C)
=\(\frac{1}{x}\)*(log|x|-log|x-1|+C)

以上から
y
=\(y_{c}\)+\(y_{0}\)
=\(\frac{C_1+C_2*log|x|}{x}\)+(\(\frac{1}{x}\))*(log|x|-log|x-1|+C)

これをまとめて、\(C_1+C=C_3、C_2+1=C_4\)とおくと、
y=\(\frac{C_3+C_4*log|x|-log|x-1|}{x}\)・・・・（答）