問１

\(f(x)=x^{3}+ax^{2}+(b-a-1)x=x\{ x^{2}+ax+(b-a-1)\}\)

因数ｘより、このグラフは必ず原点を通る。

ｘ≧０で増加だから、次の２つの場合に分けて考えると、

①極大極小がない場合

　　 \(f^{\prime }(x)=3x^{2}+2ax+(b-a-1)\)

　　ｆ’（ｘ）＝０とおいたとき、判別式がＤ／４≦０となるので、

　　 \(D\slash 4=a^{2}-3(b-a-1)\leq 0\)

　　 \(b\geq \frac{1}{3}a^{2}+a+1=\frac{1}{3}(a+\frac{3}{2})^{2}+\frac{1}{4}\)

②極大極小がある場合

　　 \(3x^{2}+2ax+(b-a-1)=0\)

　　の２解をα、βとすると、解と係数の関係と、ｘ≧０で増加であるためには、

　　 \(\alpha +\beta =-\frac{2a}{3}<0\)

　　 \(\alpha \cdot \beta =\frac{b-a-1}{3}\geq 0\)

　　したがって、ａ＞０、ｂ≧ａ＋１

①と②より、（ａ，ｂ）の範囲Ｇは、次のようになる。

問２

ｆ（ｘ）＝ｂとなるｘの値を求めると、

\(f(x)=x^{3}+ax^{2}+(b-a-1)x=b\)

\(x^{3}+ax^{2}+(b-a-1)x-b=0\)

\((x-1)\{ x^{2}+(a+1)x+b\} =0\)

ｘ≧０で増加の範囲では、ｘ＝１となる。

したがって、

\(\int ^{b}_{0}f^{-1}(y)dy=b\cdot 1-\int ^{1}_{0}f(x)dx\)

　　　　　　 \(=b-\int ^{1}_{0}\{ x^{3}+ax^{2}+(b-a-1)x\} dx\)

　　　　　　 \(=\frac{2a+6b+3}{12}=k\) とおいて、

\(b=-\frac{1}{3}a+2k-\frac{1}{2}\)

上の範囲Ｇにおいて、ｋの値が最小になるのは、

境界線の \(b=\frac{1}{3}a^{2}+a+1\) と \(b=-\frac{1}{3}a+2k-\frac{1}{2}\) が、接する点のときだから、

　　　２　　　　１
ｂ´＝―ａ＋１＝―
　　　３　　　　３

∴ａ＝－２

\(b=\frac{1}{3}(-2)^{2}+(-2)+1=\frac{1}{3}\)

したがって、最小値は、 \((a,b)=(-2,\frac{1}{3})\) のとき、

　　　　　　 \(k=\frac{2a+6b+3}{12}=\frac{2(-2)+6(\frac{1}{3})+3}{12}=\frac{-4+2+3}{12}=\frac{1}{12}\)