式の書き方が悪いので大分迷ったが
(n!/(x!(n - x)!))\(p^{x}\) (1 - p)^(n - x)
ですね (そうじゃないと二項分布じゃない)。

さて
x の代わりに x - 1 とすると
(n!/(x!(n - x + 1)!))p^(x - 1) (1 - p)^(n - x + 1)
= (n!/(x!(n - x)!))\(p^{x}\) (1 - p)^(n - x) ・ (1 - p)x/(p(n - x + 1))
従って
(1 - p)x/(p(n - x + 1)) < 1
である限り増加し続ける。
従ってこの最後の不等式を満たす最大の整数 x が最大値を与える。
つまり
(1 - p)x ＜ p(n - x + 1) = -px + p(n + 1)
x ＜ p(n + 1).
だから \(x_{0}\) = [p(n + 1)].

http://www.math.uah.ed\(\frac{u}{s}\)ta\(\frac{t}{b}\)ernoull\(\frac{i}{b}\)ernoulli5.html
を参照しました。