A = (1, 0), B = (cosθ, sinθ), C = (cosφ, sinφ) とおいて計算。
等号成立の必要十分条件は ABC が正三角形であること。

　こんにちは。座標計算に持ち込む手もありますが、
計算の実行はかなり大変なようです。
そこで、なるべく計算が楽なよう、位置ベクトルの大きさと内積を使って、
式を立てようと考えました。
これだと式に対称性が残るので、考えやすい気がします。

【解答】
Ａ、Ｂ、Ｃの位置ベクトルをそれぞれａ、ｂ、ｃとする
（面倒なので→記号は省略します。これ以降、小文字のａ、ｂ、ｃは全てベクトルだと
思って読んで下さい。）
　位置ベクトルの始点を原点とすれば、条件より|ａ|＝|ｂ|＝|ｃ|＝１である。また、
　A\(B^{2}\)＋B\(C^{2}\)＋C\(A^{2}\)
＝|a-b|^2＋|b-c|^2＋|c-a|^2
と書けて、この式は
＝２（|ａ|^2＋|ｂ|^2＋|ｃ|^2）－２{（ａ，ｂ）＋（ｂ，ｃ）＋（ｃ，ａ）}
＝６－２{（ａ，ｂ）＋（ｂ，ｃ）＋（ｃ，ａ）}
と変形できる。

　ここで、
　－２{（ａ，ｂ）＋（ｂ，ｃ）＋（ｃ，ａ）}
＝－{（ａ＋ｂ＋ｃ，ａ＋ｂ＋ｃ）－(|ａ|^2＋|ｂ|^2＋|ｃ|^2）}
＝－（|ａ＋ｂ＋ｃ|^2－３)
＝３－|ａ＋ｂ＋ｃ|^2
≦３であり、等号はａ＋ｂ＋ｃ＝０→（０ベクトルをこう書くことにします）の時に
成立する。

これより
A\(B^{2}\)＋B\(C^{2}\)＋C\(A^{2}\)≦６＋３＝９　である。

またａ＋ｂ＋ｃ＝０→の時、
ａ＋ｂ＝－ｃで、この時|ａ＋ｂ|＝|ｃ|＝１
ここで
|ａ＋ｂ|^2＝|ａ|^2＋|ｂ|^2＋２（ａ，ｂ）＝２＋２（ａ，ｂ）
であるから、
２（ａ，ｂ）＝－１
これより、ａとｂのなす角をθとすれば、cosθ＝-\(\frac{1}{2}\)
0＜θ＜πとして一般性を失わないから、θ＝2π/3
同様に、bとc、cとaのなす角も2π/3となる。
この時、ＡＢＣは正三角形である。