xの多項式\(x^{3}\)+a\(x^{2}\)+2x+b-3を多項式P(x)で割ると、商がx-1、余りがx-2である。
また、P(x)をx-2で割ると、余りは-abである。
このとき、定数a,bの値を求めよ。

解法その1
与えられた多項式を x-1 で割れば商 P(x) と余りが求まります。
その余りが x-2 に等しいということと，さらに P(x) を x-2 で割って余りを求め，
それが -ab に等しいことから a, b に関する方程式が得られますから，
それを解けば a, b が求まります。

解法その2
割り算を避けることもできます。
\(x^{3}\)+a\(x^{2}\)+2x+b-3=P(x)(x-1)+x-2で，
しかもある多項式 Q(x) を用いて
P(x)=Q(x)(x-2)-ab
と表せますから，これを上の式に代入すれば
\(x^{3}\)+a\(x^{2}\)+2x+b-3={Q(x)(x-2)-ab}(x-1)+x-2
となります。
まず x=1 を代入すると，
1+a+2+b-3=0+1-2，つまり a+b+1=0 --- (1)
が得られます。
次に，x=2 を代入すると，
8+4a+4+b-3=-ab*(2-1)+2-2, つまり ab+4a+b+9=0 --- (2)
が得られます。
(1) から b=-a-1 ですので，これを (2) に代入すると，
\(a^{2}\)-2a-8=0 という方程式を得ます。
これは因数分解できて，答えが a=-2, 4 となることがわかります。
この結果を b=-a-1 に代入して b を求めると，(a,b)=(-2,1), (4,-5) となります。