①
「演算に閉じていること」　　ほぼ明らか
「結合法則がなりたつ」　　行列の積は結合法則が成り立つからＯＫ
　　　　　　　　　　　　　　　すなわち（ＡＢ）Ｃ＝Ａ（ＢＣ）
「単位元の存在」　　　　　Ｅ（単位行列）
「逆元の存在」　　　　　　ad-bc≠０より、逆行列が存在する
以上より、
2次行列の集合
　X=｜a b｜a,b,c,d∈R、ab-cd≠0
　 ｜c d｜
　は行列の積について群になる

②
Ａ={ 1, -1, i, -i }とすると、上の４条件を満たしていることがわかる。

(2)は全てを決定する必要があるように思います

解1：群の一般論を使う方法
（前半は位数4の群をすべて決定しているので
それを既知とすれば，解答部分はほんの少しです）

Gを位数4の有限群とする．
G={e,b,c,d} (eは単位元，b，c，dは互いに異なる元)
とおく．
4の約数は1，2，4なので，
Gの部分群の位数は1か2か4であるが，
1の場合は単位元のみの部分群なので
b，c，dのそれぞれが生成する部分群の位数は
2か4である

ここで位数4の部分群を生成すると元があると
仮定して，その生成元をbとおくと
G={e,b,\(b^{2}\),\(b^{3}\)}とおけ，
これは位数4の巡回群

次に，位数4の部分群を生成する元がないと
仮定すると
\(b^{2}\)=\(c^{2}\)=\(d^{2}\)=eとなる．
また，bcはbともcとも異なるので
(もし，同じだとそれぞれc=eまたはb=eとなり矛盾)，
bc=dである．
(bc\()^{2}\)=eであるので，
bc=(bc)^{-1}=c^{-1}b^{-1}=cb
よって，
G={e,b,c,bc} \(b^{2}\)=\(c^{2}\)=e bc=cb，eは単位元
となる．
以上より位数4の群は
位数4の巡回群{e,b,\(b^{2}\),\(b^{3}\)}(これをAとおく)
または
{e,b,c,bc} \(b^{2}\)=\(c^{2}\)=e bc=cb，eは単位元
なる群(これをBとおく)
(たしかクライン群といったような・・・)
の二つのみである

さて，Gが複素数体Cの乗法群としての
部分群であるとき，e=1である．
G=Bであるとすると，
\(b^{2}\)=\(c^{2}\)=1，bとcは互いに異なり，1ではない
ところが，b=1,-1, c=1,-1なので
どちらかは1となるので矛盾．
よって，Gは巡回群Aであるとなる
\(b^{4}\)=1であるので，b=1,-1,i,-iであるが
\(b^{2}\)は1ではなく，bは1ではないので
b=iまたは-iである
このどちらの場合でも
G={1,-1,i,-i}となる
よって，
求める部分群は{1,-1,i,-i}のみである．

解2：複素数の性質を使う方法
G={1,b,c,d}とおける．
\(b^{2}\)=\(c^{2}\)=\(d^{2}\)=1とおくと，
どれかは1となる
(もしくはb，c，dで一致するものがある)
ので矛盾．
よって，少なくとも一つは2乗して1とならない
元が存在する．そこで，その元をbとする，
さらに，\(b^{2}\)はbでも1でもないので，c=\(b^{2}\)とおける．

次に，bd=b，d，\(b^{2}\)とすると，それぞれ
d=1，b=1，d=bとなりこれらは矛盾．
よって，bd=1である．

以上より，G={1,b,\(b^{2}\), b^{-1}}とおける．
ここで，\(b^{3}\)=1，b，\(b^{2}\)，とすると，
\(b^{2}\)=b^{-1}，b=1，b=-1が得られ，矛盾する．
よって，\(b^{3}\)=b^{-1}なので，\(b^{4}\)=1
\(b^{2}\)は1ではないので，b=i，-i
bがiでも-iでもG={1,i,-1,-i}となる．
よって，
求める部分群は{1,-1,i,-i}のみである．