先生がヒントとして
F(α)＝∫e^{-\(x^{2}\)}cos(2αx)dx=\(\sqrt{\quad}\)πe^{-α^2}/2
0～∞
とおいて、
F'(α)＝-2αF(α)
を証明して、その結果を用いて証明すればいい。
とヒントをくれました。
でもどうすればいいのかまったくわかりません。
よろしくお願いします。m(__)m

今回も『解析概論』をめくっていたらほとんどそのまま同じ問題を発見。
[解析概論 p.248]

[例6]
J(\alpha) = \in\(t_{0}\)^{\infty}e^{-\(x^{2}\)}\cos\alpha x dx
= \sqrt{\pi}/2 e^{-{\alpha}^\(\frac{2}{4}\)}.
この積分 J(\alpha) は(\alpha に関して平等に)収束するが、
積分記号下で微分して、
J'(\alpha) = -\in\(t_{0}\)^{\infty}e^{-\(x^{2}\)}x\sin\alpha x dx.
|\sin\alpha x|\le 1 で、これも平等に収束するから、
この微分が許される。さて、
J'(\alpha) = [\(\frac{1}{2}\) e^{-\(x^{2}\)}\sin\alpha x]_0^{\infty}
　　　　　　　 - \alph\(\frac{a}{2}\) \in\(t_{0}\)^{\infty}e^{-\(x^{2}\)}\cos\alpha x dx
故に、J'(\alpha) = -\alph\(\frac{a}{2}\) J(\alpha).
すなわち、(\(\frac{d}{d}\)x)\log J(\alpha) = -\alph\(\frac{a}{2}\)
したがって \log J(\alpha) = -{\alpha}^\(\frac{2}{4}\) + C.
又は J(\alpha) = Ce^{-{\alpha}^\(\frac{2}{4}\)}.
定数 C を求めるために \alpha=0 と置けば、
C = J(0) = \in\(t_{0}\)^{\infty}e^{-\(x^{2}\)} dx = \sqrt{\pi}/2.
故に表記の結果を得る。

[解析概論 pp.385-386]
(練習問題(五)-(6))
\in\(t_{0}\)^{\infty} e^{-\(x^{2}\)}\cos 2ax dx = \sqrt{\pi}/2 e^{-\(a^{2}\)}.
[解] これは既知である(248頁、例6)が虚数積分を使って
e^{-\(z^{2}\)} を x=0, x=R, y=0, y=a で囲まれた長方形の周に沿って積分
すれば簡単に求められる。
--
問題の形が全く同じなので、出題者はこちらの答案を期待していたのでは
ないでしょうか。ということで、この方法で解いてみます。

e^{-\(z^{2}\)} は z-平面の全部で正則だから、
\in\(t_{0}\)^R e^{-\(x^{2}\)} dx
+ i\int_\(0^{a}\) e^{-(R+iy\()^{2}\)} dy
+ \int_\(R^{0}\) e^{-(x+ia\()^{2}\)} dx
+ i\int_\(a^{0}\) e^{-(iy\()^{2}\)} dy = 0.
実部のみを書き下すと、
\in\(t_{0}\)^R e^{-\(x^{2}\)} dx
+ e^{-\(R^{2}\)}\int_\(0^{a}\) e^{\(y^{2}\)}\sin 2Ry dy
- e^{\(a^{2}\)}\in\(t_{0}\)^R e^{-\(x^{2}\)}\cos 2ax dx = 0.
R -> +\infty のとき、第1項 -> \sqrt{\pi}/2 、第2項 -> 0 だから、
e^{\(a^{2}\)}\in\(t_{0}\)^R e^{-\(x^{2}\)}\cos 2ax dx -> \sqrt{\pi}/2 (R -> +\infty),
すなわち、
\in\(t_{0}\)^{\infty} e^{-\(x^{2}\)}\cos 2ax dx = \sqrt{\pi}/2 e^{-\(a^{2}\)}.
示された。