いつもそうですが、問題は正しく書いてください。

「自然数 x,y の組を２組求めよ」ですよね。
そうでないと解けません！！

log_(25)\(x^{2}\)\(y^{2}\)=log25(25\(x^{2}\)+10xy+\(y^{2}\))

\(x^{2}\)\(y^{2}\)=25\(x^{2}\)+10xy+\(y^{2}\)
(5x+y\()^{2}\)-(xy\()^{2}\)=0
(5x+y+xy)(5x+y-xy)=0

xy+5x+y=0 の場合
　xy+5x+y+5=5
　(x+1)(y+5)=5
　条件をみたす (x,y) はない
xy-5x-y=0 の場合
　xy-5x-y+5=5
　(x-1)(y-5)=5
　(x-1,y-5)=(1,5),(5,1)
　(x,y)=(2,10)(6,6)

対数法則と底の変換公式を用いて
lo\(g_{5}\)(xy) = (\(\frac{1}{2}\))lo\(g_{5}\)(25\(x^{2}\) + 10xy + \(y^{2}\))
2lo\(g_{5}\)(xy) = lo\(g_{5}\)(25\(x^{2}\) + 10xy + \(y^{2}\))
lo\(g_{5}\)(xy\()^{2}\) = lo\(g_{5}\)(25\(x^{2}\) + 10xy + \(y^{2}\))
(xy\()^{2}\) = 25\(x^{2}\) + 10xy + \(y^{2}\)
(25 - \(y^{2}\))x2 + 10xy + \(y^{2}\) = 0.
ここで y = \(\pm\)5 の時は, \(\pm\)50x + 25 = 0 だから x = -(\(\pm\)\(\frac{1}{2}\)).
真数条件から x > 0, y > 0, 5x + y ≠ 0 だから不適。
従って, 解の公式を用いて
x = (-5y \(\pm\) \(y^{2}\))/(25 - \(y^{2}\)).
真数条件と併せて考えて, 適当な値を代入してみれば良い。