解と係数の関係を使うのかどうかはわかりませんし、
ｘ² ＋ｙ² ＝－１は間違っていませんか？
虚数解で良ければ、次のようになりました。
｛ｘ² ＋３ｘｙ＋２ｙ² ＝０
｛ｘ² ＋ｙ² ＝－１
上の式を因数分解して、
（ｘ＋ｙ）（ｘ＋２ｙ）＝０
したがって、２つの連立に分けて、
｛ｘ＋ｙ＝０
｛ｘ² ＋ｙ² ＝－１
または
｛ｘ＋２ｙ＝０
｛ｘ² ＋ｙ² ＝－１
これをそれぞれ代入法でとくと、
｛　　　　１
｛ｘ＝\(\pm\)――ｉ
｛　　　\(\sqrt{\quad}\)２
｛
｛　　　　　　１
｛ｙ＝－（\(\pm\)――ｉ）
｛　　　　　\(\sqrt{\quad}\)２
と
｛　　　　２
｛ｘ＝\(\pm\)――ｉ
｛　　　\(\sqrt{\quad}\)５
｛
｛　　　　　　１
｛ｙ＝－（\(\pm\)――ｉ）　………（答）
｛　　　　　\(\sqrt{\quad}\)５