少々問題記述が不確かな気がします。
10C20÷3なんだか10C(\(\frac{20}{3}\))なんだかちっとも分かりません。
まあ、誤植の可能性もありますがね。

1. 10C20÷3の場合:
   
   明らかにあり得ませんね。何せ「10個から20個取る組み合わせ」だと意味が分かりません。
   もし、問題がこの通りだったら誤植でしょう。



2. 10C(\(\frac{20}{3}\))の場合
   
   これも普通に考えるとあり得ない問題です。組み合わせの場合は与えられる数値は正の整数じゃないと
   マズいのが原則です。



3. ガンマ関数を使って無理やり解けと言う指令の場合
   
   上の可能性も無きにしもあらず、です。あまりポピュラーな考え方とも思えませんが、
   階乗を一般化したガンマ関数を使え、と言う指定は考えられます。
   ただし、これも想像の範囲を出ませんし、質問者がどの程度の数学的バックグラウンドがある
   のかも不明なんで、まあ、おかしな問題だと言えばおかしな問題でしょう。





• 参考:ガンマ関数の導入.pdf