丸2 の答えとして挙げておられる不等式は不十分です。

f(A) というのは集合です。点 (u,v) が f(A) に入っているのはどういうことかを
よく考えて見ましょう。
A の各点を f で写した先をすべて集めたものが f(A) という集合です。
したがって，(u,v)∈f(A) だとすると，f(a,b)=(u,v) をみたすような A の
要素 (a,b) が必ずあるはずです。つまり，もし f(a,b)=(u,v) をみたす
ような (a,b)∈A がなければ，(u,v) は f(A) の要素とはみなせません。

したがって，丸1 の f について，(u,v)∈f(A) とすると，
f(a,b)=(2a,3b)=(u,v) となるような (a,b)∈A が必ずあります。
a, b と u, v の間には 2a=u, 3b=v という関係があり，
(a,b)∈A より \(a^{2}\)+\(b^{2}\)＜1 をみたしています。
したがって，a=\(\frac{u}{2}\), b=\(\frac{v}{3}\) をこれに代入すると
(\(\frac{u}{2}\)\()^{2}\)+(\(\frac{v}{3}\)\()^{2}\)＜1 が導かれます。
このことから，B={(u,v)| (\(\frac{u}{2}\)\()^{2}\)+(\(\frac{v}{3}\)\()^{2}\)＜1} とおくと，
f(A)⊂B であることがわかります。

逆に，(u,v)∈B のとき，a=\(\frac{u}{2}\), b=\(\frac{v}{3}\) とおくと
(a,b)∈A で，しかも f(a,b)=(u,v) であることがわかります。
よって B⊂f(A).

以上より，B=f(A) がわかります。
よって，f(A)={(u,v)| (\(\frac{u}{2}\)\()^{2}\)+(\(\frac{v}{3}\)\()^{2}\)＜1}.
（u,v の代わりに x,y や X,Y を使っても内容は全く変わりません。）
なお，f(A) は uv 平面では (\(\pm\)2,0)，(0,\(\pm\)3) を通るような楕円の内部
（境界は含みません）となります。

丸2については，(u,v)∈f(A) ならば, f(a,b)=(a+b,ab)=(u,v) をみたす
(a,b)∈A がとれます。
a+b=u, ab=v を a, b について解けるかどうかを考えます。
b=u-a を ab=v に代入すると，a(u-a)=v. よって \(a^{2}\)-ua+v=0 という
2 次方程式を得ます。
a はこの方程式の実数解なので，判別式について \(u^{2}\)-4v≧0 でなければなりません。
このとき，a=u-b としても同様の 2 次方程式 \(b^{2}\)-ub+v=0 を得ますので，
結局 a, b は 2 次方程式 \(t^{2}\)-ut+v=0 の 2実数解です。
このような a, b が存在することを保証するには，\(u^{2}\)-4v≧0 が必要十分です。

また，例えば (a+b\()^{2}\)-2ab=\(a^{2}\)+\(b^{2}\) という式を用いると，(a,b)∈A より
1＞\(a^{2}\)+\(b^{2}\)=(a+b\()^{2}\)-2ab=\(u^{2}\)-2v となることがわかります。
よって，B={(u,v)| \(u^{2}\)-2v＜1 かつ \(u^{2}\)-4v≧0} とおくと，
f(A)⊂B であることがわかりました。

上の議論はそのまま逆にたどれます。
実際，(u,v)∈B に対し，\(t^{2}\)-ut+v=0 は 2 実数解を持ち，それを a, b とおくと，
解と係数の関係より u=a+b, v=ab と表せます。
そうすると，\(a^{2}\)+\(b^{2}\)=(a+b\()^{2}\)-2ab=\(u^{2}\)-2v ですが，(u,v)∈B より \(u^{2}\)-2v＜1.
したがって \(a^{2}\)+\(b^{2}\)＜1.
ゆえに (a,b)∈A で，解と係数の関係から f(a,b)=(u,v) が従います。
よって B⊂f(A) であることがわかりました。

ということで，f(A)=B={(u,v)| \(u^{2}\)-2v＜1 かつ \(u^{2}\)-4v≧0} で，
これは uv 平面で放物線
v=(\(u^{2}\)-1)/2 と v=\(u^{2}\)/4 に挟まれた部分になります。ただし境界を含みません。
言い換えると，v=(\(u^{2}\)-1)/2 の上側と，v=\(u^{2}\)/4 の下側の部分を合わせた形です。
境界については，v=(\(u^{2}\)-1)/2 のグラフ上の点は含みません。
v=\(u^{2}\)/4 のグラフ上の点は含みます。
また，v=(\(u^{2}\)-1)/2 と v=\(u^{2}\)/4 との交点 (\(\pm\)\(\sqrt{\quad}\)2,\(\frac{1}{2}\)) は含みません。