計算があっているか自信はありませんが，方針はあっていると思います。

(1) ∬D xy dxdy D={x,y＞0|ay＞\(x^{2}\) ,ax＞\(y^{2}\)}

＜２９２５＞ と実質同じ問題ですので，解説はそちらをご覧下さい。


(2) ∬D x dxdy D={x,y＞0|\(x^{2}\)+\(y^{2}\)＜ax}

領域 D は，(\(\frac{a}{2}\),0) を中心とする半径 |a|/2 の円 (\(x^{2}\)-\(\frac{a}{2}\)\()^{2}\)+\(y^{2}\)=\(a^{2}\)/4 の上半分です。

変数変換をご存知ならば，

x=rcosθ+\(\frac{a}{2}\)，y=rsinθ，0≦r≦|a|/2，0≦θ≦π

と変換して，ヤコビアンが r になることから，

∬D x dxdy=∫[0≦r≦|a|/2]∫[0≦θ≦π](\(r^{2}\)cosθ+r\(\frac{a}{2}\))dθdr

を計算すれば，その結果は \(a^{3}\)/4 となります。

変数変換をご存じなければ，a＞0 のときには

0≦y≦\(\frac{a}{2}\)，a-\(\sqrt{\quad}\)(\(a^{2}\)/4-\(y^{2}\))≦x≦a+\(\sqrt{\quad}\)(\(a^{2}\)/4-\(y^{2}\))

として x について積分し，次いで y について積分するという方法が考えられますが，
計算は大変そうです。
y から先に積分しても，厄介そうです。

(3) これは無限ですので，有限な領域で近似して値を求める必要があります。
関数の形からして，y から積分するのが簡単そうです。

-L≦x≦L，0≦y≦L という長方形領域で積分の値を求めれば，L→∞ の極限値として
求める積分の値が得られます。

まず

∫[0≦y≦L]dy/(1+\(x^{2}\)+y\()^{2}\)

を求めます。この段階では x はただの定数ですから，

∫dy/(1+\(x^{2}\)+y\()^{2}\)=-1/(1+\(x^{2}\)+y)+(積分定数)

であることから，

∫[0≦y≦L]dy/(1+\(x^{2}\)+y\()^{2}\)=1/(1+\(x^{2}\))-1/(1+L+\(x^{2}\))

となります。

次にこれを x について積分しますが，c＞0 に対し，変数変換 t=x/\(\sqrt{\quad}\)c により，

∫dx/(c+\(x^{2}\))=(1/\(\sqrt{\quad}\)c)∫dt/(1+\(t^{2}\))=(1/\(\sqrt{\quad}\)c)tan^-1t=tan^-1t=(1/\(\sqrt{\quad}\)c)tan^-1(x/\(\sqrt{\quad}\)c)

となります（積分定数は省略しました）。

よって，tan^-1x が奇関数であることから，

∫[-L≦x≦L]dx/(1+\(x^{2}\))=2tan^-1L,
∫[-L≦x≦L]dx/(1+L+\(x^{2}\))=(2/\(\sqrt{\quad}\)(1+L))tan^-1(L/\(\sqrt{\quad}\)(1+L))

となります。L→∞ とすると，

tan^-1L→π/2，
tan^-1(L/\(\sqrt{\quad}\)(1+L))→π/2
1/\(\sqrt{\quad}\)(1+L)→0

なので，結局求める積分の値はπになります。