これはちょっと分かりませんねえ～。確かに難問だと思いました。
と言うワケで『完全解答』とは参りませんが、少々アイディアを出したいと思います。

＞∫(a+bx+c\(x^{2}\)\()^{n}\) dx　の積分

基本的には『置換積分』の問題として捉えて構わないと思います。
ココでu＝a+bx+c\(x^{2}\)と置くと上手く行かない。
原則的にこの問題の様に『xの二乗』が絡む問題は平方完成を狙って三角関数で置換
させるのがセオリーです。つまりこの場合、

･\(\sqrt{\quad}\){(\(b^{2}\)-4ac)/4\(c^{2}\)}sinθ＝\(\frac{b}{2}\)c＋x

と置いてみる。よって微分は

･dx＝\(\sqrt{\quad}\){(\(b^{2}\)-4ac)/4\(c^{2}\)}cosθdθ

となって上手く事が運ぶ･･･ハズなんですが、この積分はいささかやっかいです。
計算過程に結局次の部分が出てくるんですよね。

･∫cosθ･(cosθ)^(2n)dθ

しょうがないんで部分積分を実行してみました。

･∫cosθ･(cosθ)^(2n)dθ
＝sinθ(cosθ\()^{2}\)n＋2n∫{(cosθ)^(2n－1)}{(sinθ\()^{2}\)}dθ

ここで(sinθ\()^{2}\)＋(cosθ\()^{2}\)＝1を利用して、

･∫cosθ･(cosθ)^(2n)dθ
＝sinθ(cosθ\()^{2}\)n＋2n∫{(cosθ)^(2n－1)}{1－(cosθ\()^{2}\)}dθ
＝sinθ(cosθ\()^{2}\)n＋2n∫(cosθ)^(2n－1)dθ－2n∫(cosθ)^(2n＋1)dθ

次に∫(cosθ)^(2n＋1)dθ＝∫cosθ･(cosθ)^(2n)dθなので、右辺の∫の二項目を
左辺に移動させて整理すると、

･(2n＋1)∫(cosθ)^(2n＋1)dθ＝sinθ(cosθ\()^{2}\)n＋2n∫(cosθ)^(2n－1)dθ
∴∫(cosθ)^(2n＋1)dθ
＝{1/(2n＋1)}sinθ(cosθ\()^{2}\)n＋{2n/(2n＋1)}∫(cosθ)^(2n－1)dθ･･･☆

結果積分の2項目は消えないんですね。ただし、☆式自体の循環にはなるんで、次の
級数がこの積分じゃないか、と言う予想が付きます。

∫(cosθ)^(2n＋1)dθ
＝{1/(2n＋1)}sinθ(cosθ\()^{2}\)n＋{2n/(2n＋1)(2n－1)}sinθ(cosθ)^(2n－2)
　　＋{2n(2n－2)/(2n＋1)(2n－1)(2n－3)}sinθ(cosθ)^(2n－4)
　　＋{2n(2n－2)(2n－4)/(2n＋1)(2n－1)(2n－3)(2n－5)}sinθ(cosθ)^(2n－6)
　　＋･････････

ひょっとして『順列/組み合わせ』使えばもっとキレイな表現が出来るのかもしれま
せんが、僕は不勉強なんでコレで勘弁して下さい(笑)。もう『順列/組み合わせ』
大ッキライだったんです(笑)。
まあ、てなワケで『無限級数』使えば何とか積分出来そうなんで、アトは三角関数を
元の式にもどしてみて下さい。