（１）
\(x^{2}\)＋2ax＋2a^＋2a－3＝0　←2a^を2\(a^{2}\) と解釈しました。

与式は実数解を持つので
判別式をＤとすると
Ｄ/4＝－\(a^{2}\)－2a＋3≧0

∴－3≦a≦1　①

解と係数の関係より
－2a＝α＋β　･･･②
2\(a^{2}\)＋2a－3＝αβ　･･･③

α^2＋αβ＋β^2＝(α＋β\()^{2}\)－αβ　と書けて

②^2－③
＝2\(a^{2}\)－2a＋3
＝2(a－\(\frac{1}{2}\)\()^{2}\)＋\(\frac{5}{2}\)

aは①の範囲内で動くので
a＝－3の時　最大値27
a＝\(\frac{1}{2}\)の時　最小値\(\frac{5}{2}\)　をとる　･･･答

（２）
\(x^{2}\)＋(k＋a)x＋\(k^{2}\)＋a＝0

与式の判別式をＤ１とすると、xは実数解を持たないので

Ｄ１＝(k＋a\()^{2}\)－4\(k^{2}\)－4a＜0

整理すると
3\(k^{2}\)－2ak－\(a^{2}\)＋4a＞0

この式の判別式をＤ２とするとkも実数解を持たないので

　Ｄ２＝4a(a－3)＜0
⇔0＜a＜3　･･･答

（３）
二つの二次方程式\(x^{2}\)－2ax＋4＝0と\(x^{2}\)－2ax＋3a＋4＝0について、
少なくとも一方の方程式が虚数解をもつ実数の定数aの範囲を出すためには、
どちらも実数解を持つ場合の逆を考えればよい(背理法)

どちらも実数解を持つとき
それぞれの式の判別式をＤ１、Ｄ２とすると

　Ｄ\(\frac{１}{4}\)＝\(a^{2}\)－4≧0
⇔a≦－2、2≦a

　Ｄ\(\frac{２}{4}\)＝\(a^{2}\)－3a－4≧0
⇔a≦－1、4≦a

それぞれの共通部分を考えて
a≦－2、4≦a

これの逆の範囲は
－2＜a＜4　･･･答

（４）
\(x^{2}\)－x＋4＝0

解と係数の関係より
α＋β＝1　･･･①
αβ＝4　　･･･②

α^2＋β、α＋β^2を解とする二次方程式は、解と係数の関係より

\(x^{2}\)－(α^2＋β^2＋α＋β)x＋α^3＋β^3＋α^2β^2＋αβ＝0

\(x^{2}\)－(①^2－2×②＋①)＋①^3－3×①×②＋②^2＋②＝0

⇔\(x^{2}\)＋6x＋9＝0　･･･答

基本問題ですねぇ
どんな参考書にも出ていると思います。
（１）
まず、異なる２つの実数解を持つのだから
判別式＞０
これで、ａのとりうる範囲が分かります。
－３＜ａ＜１かな？
この範囲で
解と係数の関係から
α＋β＝－２ａ、αβ＝２ａ^2＋２ａ－３
α^2＋αβ＋β^2＝（α＋β\()^{2}\)－αβ＝ａに関する二次式
の最大・最小を求める事になります。
（２）
まず判別式＜０
判別式＝－３ｋ^2＋ａ^2－２ａ＜０となるかな？
どんな実数ｋに対しても－３ｋ^2≦０だから
ｋの値にかかわらず判別式＜０となるためには
ａ^2－２ａ＜０
（３）
少なくとも一方が虚数解をもつ・・・とは・・・
「両方とも実数解を持つ」という命題の否定
（４）
解と係数の関係から
α＋β＝１、αβ＝４
ならば
（α^2＋β）＋（α＋β^2）＝？
（α^2＋β）（α＋β^2）＝？