直線OAの式はy=(n+1)\(\frac{x}{n}\)ですね。
mを1＜=m＜=nなる整数とします。
この直線とy=mとの交点は(nm/(n+1),m)ですが、
実はこの点は折れ線のy=mなる線分に乗っています。
すなわち、m-1＜nm/(n+1)＜mなんですね。検証してみてください。
さて、a=nm mod n+1として、aを最小非負剰余となるように取ると、
nとn+1とが互いに素である(検証してみてください)ことから、
mが1＜=m＜=nと動くとき、aも1＜=a＜=nと動きます。ここがこの問題の
肝でしょう。必ず検証してみてください。さて、aは0にはなりませんから、
直線OAとx=m-1との交点は、折れ線のx=m-1なる部分に乗っています。
同様に、OAとx=mとの交点も、折れ線のx=mなる部分に乗っています。
上に挙げた三本の折れ線と、直線OAとで囲まれた部分の面積は、
直角三角形二つ分の面積で、その一つ(x軸寄り)が(a/(n+1))(\(\frac{a}{n}\))/2で、
もう一つが((n+1-a)/(n+1))((n+1-a)/n)/2ですから、合わせて
(2\(a^{2}\)-2(n+1)a+(n+1\()^{2}\))/(2n(n+1))となります。これを1＜=a＜=nなる
aについて足し合わせれば(2n+1)/6となり、これが求める面積です。