＞(1)　確率変数Xの確率分布が　
P(X=k)＝\(\frac{k}{8}\) (k=1,2,3)， P(X=4)＝p　であるとき
　①定数pの値を求めよ。

って事は

x＝1の時P(1)＝\(\frac{1}{8}\)
x＝2の時P(2)＝\(\frac{2}{8}\)
x＝3の時P(3)＝\(\frac{3}{8}\)
x＝4の時P(4)＝?

と言う事です。
ところで、確率分布の定義として、

P(1)＋P(2)＋P(3)＋P(4)＝1

が約束事です。よって

\(\frac{1}{8}\)＋\(\frac{2}{8}\)＋\(\frac{3}{8}\)＋P(4)＝1

が満たされて無いといけません。

∴P(4)＝p＝\(\frac{1}{4}\)

にしかなり得ません(x≧5とかx≦0の場合はどうなるのか、とか思うかもしれませんが、
問題文に明記されていない以上、“定義されてない”と考えた方がイイでしょう)。

＞②P(3≦X)の値を求めよ。

P(3)＋P(4)を計算すれば終了です。

∴\(\frac{3}{8}\)＋\(\frac{2}{8}\)＝\(\frac{5}{8}\)

＞③Xの分布関数F(x)を求めよ。

分布関数の定義は知ってますか?

x＝1の時F(1)＝\(\frac{1}{8}\)
x＝2の時F(2)＝\(\frac{1}{8}\)＋\(\frac{2}{8}\)＝\(\frac{3}{8}\)
x＝3の時F(3)＝\(\frac{1}{8}\)＋\(\frac{2}{8}\)＋\(\frac{3}{8}\)＝\(\frac{6}{8}\)
x＝4の時F(4)＝\(\frac{1}{8}\)＋\(\frac{2}{8}\)＋\(\frac{3}{8}\)＋\(\frac{2}{8}\)＝1

と言った離散型の関数になります。

＞(2)　確率変数Xの確率密度関数が　
p(x)＝a(x＋1)　(-1≦x≦2)　
0　 (x＜-1or2＜x)　であるとき
　①定数aの値を求めよ。

これも発想は(1)と同じです。
違うのは(1)は離散型の関数、(2)は連続型の関数である、と言う部分です。
一般に、離散型の分布の場合、

Σp＝1　(Σは全てについての和)

と言う約束事がありますが、連続型の場合、同様に

∫pdx＝1　(積分は全てについての和)

と言う約束事があります。
ゆえに(2)に於いても、

∫a(x＋1)dx＝1　(積分区間は－1～2)

と言う約束事が成り立たなければなりません。
これを計算すると、

a＝\(\frac{2}{9}\)

が答えとなります。

＞②P(0≦X≦3)の値を求めよ。

∫pdx (積分区間は0～3)

を計算すればイイです。
気をつけなければならないのは、

　　p(x)＝a(x＋1)　(-1≦x≦2)　
0　 (x＜-1or2＜x)

なので、

∫\(\frac{2}{9}\)*(x+1)dx＋∫0dx

で計算する事です。初項の積分範囲は0～2、第2項は2～3です。
計算結果は\(\frac{8}{9}\)となります。

＞③Xの分布関数F(x)を求めよ。

分布関数の定義に従って、

F(x)＝0　(x＜-1)
F(x)＝\(\frac{1}{9}\)*\(x^{2}\)＋\(\frac{2}{9}\)*x　(-1≦x≦2)
F(x)＝1　(2＜x)

です。
以上です。