２つの接点を (a,\(\frac{1}{a}\)),(b,\(\frac{1}{b}\)) とする。(b>a)
題意から
点Pの座標は ( 2ab/(a+b) , 2/(a+b) ) 、また
log(\(\frac{b}{a}\)) - 2(b-a)/(b+a)=log 3 -1
という方程式を得ることができる。
ここで \(\frac{b}{a}\)=k とおくと、（ただし、b>a より k>1)
log(k)- 2(k-1)/(k+1) =log 3 -1 となり、
k=3 のとき満たすことが分かる。
これ以外の解は、
log(x) -2(x-1)/(x+1) は
k>1 で 単調増加であるため存在しない。
\(\frac{b}{a}\)=3 より b=3a
これより xy=\(\frac{3}{4}\) となる。
お騒がせいたしました。

接点を Q(a, \(\frac{1}{a}\)), R(b, \(\frac{1}{b}\)), 0 ＜ a ＜ b と置く。
y' = -1/\(x^{2}\) だから, Q, R に於ける接線は各々
y = -x/\(a^{2}\) + \(\frac{2}{a}\),
y = -x/\(b^{2}\) + \(\frac{2}{b}\).
よってこれらの交点である P は
-x/\(a^{2}\) + \(\frac{2}{a}\) = -x/\(b^{2}\) + \(\frac{2}{b}\)
から x = 2ab/(a + b)
従って y = 2/(a + b)
となるので
P(2ab/(a + b), 2/(a + b)).

さて, 考えるべき面積は
∫_a^(2ab/(a + b)) (\(\frac{1}{x}\) + x/\(a^{2}\) - \(\frac{2}{a}\))dx + ∫_(2ab/(a + b)\()^{b}\) (\(\frac{1}{x}\) +
x/\(b^{2}\) - \(\frac{2}{b}\))dx
= [log x + \(x^{2}\)/\(a^{2}\) - 2\(\frac{x}{a}\)]_a^(2ab/(a + b)) + [log x + \(x^{2}\)/\(b^{2}\) -
2\(\frac{x}{b}\)]_(2ab/(a + b)\()^{b}\)
= log(2ab/(a + b)) + (\(\frac{1}{2}\)\(a^{2}\))(2ab/(a + b)\()^{2}\) - (\(\frac{2}{a}\))(2ab/(a + b)) - log
a - \(\frac{1}{2}\) + 2
　+ log b + \(\frac{1}{2}\) - 2 - log(2ab/(a + b)) - (\(\frac{1}{2}\)\(b^{2}\))(2ab/(a + b)\()^{2}\) + (\(\frac{2}{b}\))
(2ab/(a + b))
= log (\(\frac{b}{a}\)) + 2(\(b^{2}\) - \(a^{2}\))/(a + b\()^{2}\) + 4(a - b)/(a + b)
= log (\(\frac{b}{a}\)) + 2(b - a)/(a + b) + 4(a - b)/(a + b)
= log (\(\frac{b}{a}\)) + 2(a - b)/(a + b).

これが log 3 - 1 に等しくならなければならない。
一寸ずるいが \(\frac{b}{a}\) = 3 だと仮定して
b = 3a を後ろの項に代入してみると 2(a - b)/(a + b) = -4\(\frac{a}{4}\)a = -1 で適し
ている。
従って b = 3a.
よって P(2ab/(a + b), 2/(a + b)) = ((3\(\frac{a}{2}\), 1/(2a)), a > 0.
x = 3\(\frac{a}{2}\),
y = a/(2a)
とすると a = 2\(\frac{x}{3}\) だから
y = 3/(4x), x > 0
これが P の存在範囲 (の一つ) である。

「解の唯一性は, 下記の下野哲史氏の解答と同様に検証される」

phaos さんの考察について、
以下のような検証をいたしましたのでご報告いたします。

この問題は、確かに
　log (\(\frac{b}{a}\)) + 2(a - b)/(a + b) = log 3 - 1
を解くところが鍵ですが、t=\(\frac{b}{a}\) (t>1) とおくと
log (t) + 2(a-at)/(a+at)= log3 -1
log (t) + 2(1-t)/(1+t) = log3 -1
であり、t=3 を代入すると成り立つため、これが１つの解となる。
その他の解の存在の有無についてですが、
y =log(t) +2(1-t)/(1+t) とおくと、
y'=\(\frac{1}{t}\) +(-4)/(1+t\()^{2}\)=(1-t\()^{2}\)/(t(1+t\()^{2}\)) より
t>1 において y'>0 であるから単調増加であり
　これより、t=3 以外に解は存在しない。
間違っていたらご指摘下さい。お願いいたします。

ちなみに、
t=\(\frac{a}{b}\) (0＜t＜1) でも
log(3t) = (3t-1)/(t+1) を満たすのは t=\(\frac{1}{3}\) 以外には存在しない
　しないような気がします。
　y =log(3t) - (3t-1)/(t+1) とおくと
y'= 3(\(t^{2}\)+1)/(t+1\()^{2}\) > 0 である。以下同様。

東大の過去問にも、ある一つの解を推測して
他に解が存在しないことを示す問題がありました。
うまい方法があるものですね。