う～ん、あんま自信無いんですけど・・・・・・取り合えずやってみましょうかね。
間違ってたらゴメンなさい。
かつ、間違っていたら、容赦ないツッコミも入るでしょうし(笑)、ま、エエか、と(笑)。

まず、多分問題文が間違っていると思いますね。

＞確率P(X2=1,X3=2｜X0=1,X2=2)を求めよ。

と書いてますが、

＞確率P(X2=1,X3=2｜X0=1,X1=2)を求めよ。

ではないですか?前者だったら、確率は0だと思いますよ。何故ならそんな現象は計算出来ないと思う(笑)。
添え字良く確認して下さい。
さて、取り合えず『推移確率行列』の存在は忘れます(笑)。ところで、こう言う上のような|が付いた表現は
ややこしくて僕も嫌いですが(笑)、こう言う表現を『条件付確率』と言います。
一般的に、次のような関係が定義されています。

P(B|A)＝P(A∩B)/P(A)

『条件付確率の公式』って呼ばれているヤツですね。上の式では∩を使ってるんですが、一般に表記的には∩
を書くのがメンドいので、確率論では代わりにコンマ(,)を使って代用するのを覚えておいてください。
すなわち、上の条件付確率の公式は、

P(B|A)＝P(A,B)/P(A)

と書けますし、また、問題も

＞確率P(X2=1∩X3=2｜X0=1∩X1=2)を求めよ。

と言う意味です。
さて、問題文から察するに、条件付確率の公式を使うと、

P(X2=1,X3=2｜X0=1,X1=2)＝P(X0=1,X1=2,X2=1,X3=2)/P(X0=1,X1=2)・・・・・・①

になりそうだな、ってのは何となく分かるでしょうか?つまり、P(X0=1,X1=2,X2=1,X3=2)と言う同時確率
(または同時分布)とP(X0=1,X1=2)と言う同時確率が分かれば、問題解くのは終了なんです。
なお、同時確率ってのはAかつBが同時に起こる確率、って意味ですね。
さて、ここでもう一回『条件付き確率』の公式のトリックを持ち込みます。すなわち、

P(B|A)＝P(A,B)/P(A)

なので、

P(A,B)＝P(B|A)*P(A)

なワケです。これを利用して①の分母を書き換えると、

P(X0=1,X1=2)＝P(X1=2|X0=1)*P(X0=1)

になりますね。まず、ここがポイントです。
同様の操作を分子の同時確率にも行うんですが、これがちょっとややこしい(笑)。順番にやっていくんで、
丁寧に追いかけて来てください。

P(X0=1,X1=2,X2=1,X3=2)＝P(X3=2|X0=1,X1=2,X2=1)*P(X0=1,X1=2,X2=1)
＝P(X3=2|X0=1,X1=2,X2=1)*P(X2=1|X0=1,X1=2)*P(X0=1,X1=2)

＝P(X3=2|X0=1,X1=2,X2=1)*P(X2=1|X0=1,X1=2)*P(X1=2|X0=1)*P(X0=1)

全部『条件付確率の公式』を適用するだけなんです。が、こう言う『くくり出し』ってのはあんまり
慣れないですね(笑)。僕も嫌いです(笑)。
さて、そうすると、問題の

＞確率P(X2=1,X3=2｜X0=1,X1=2)を求めよ。

ってのは

P(X2=1,X3=2｜X0=1,X1=2)
＝P(X3=2|X0=1,X1=2,X2=1)*P(X2=1|X0=1,X1=2)*P(X1=2|X0=1)*P(X0=1)/P(X1=2|X0=1)*P(X0=1)

となります。幸いな事に、分母と分子に共通項がありますね。約分すると、

P(X2=1,X3=2｜X0=1,X1=2)＝P(X3=2|X0=1,X1=2,X2=1)*P(X2=1|X0=1,X1=2)

となります。Viva!何とか格好が付きそうです。これで初期確率P(X0)は消えてしまうんで、
コレに付いては何も考えなくて済むのです。
さて、ここでもう一つ『トリック』を使います。マルコフ連鎖と言う部分です。
マルコフ連鎖、とは何でしょうか?定義的には、

マルコフ連鎖の定義
確率変数列{Xn}がマルコフ連鎖であるとは、

P(Xn|X1,・・・,Xn-1)＝P(Xn|Xn-1)

が成立する事である

との事です。つまり、

P(X3=2|X0=1,X1=2,X2=1)＝P(X3=2|X2=1)
P(X2=1|X0=1,X1=2)＝P(X2=1|X1=2)

と考えて構わないよと言う事を問題文が保障してくれているんです。
ちなみに、このマルコフ連鎖ってのは現実問題いつも正しいか、と問われればそうではありません。
ましてや、数学的かつ厳密に、と言うとダメダメでしょうね。
一般に、

P(X3=2|X0=1,X1=2,X2=1)≠P(X3=2|X2=1)
P(X2=1|X0=1,X1=2)≠P(X2=1|X1=2)

であって成り立たないのです。
ちなみに、このマルコフ連鎖を用いた統計解析手法がいくつか提案されてますが、原理的には眉唾モノだと
思います(笑)。ただし、一々現象を根底まで遡るのがメンド臭い、とか(笑)、何が根源事象であるのか、一意では
決まらない、とか(笑)、計算量を端折りたい、とか(笑)、まあそう言う数々の理由があって、数学的に比較的
シンプルな論議が出来るマルコフ連鎖が愛用されている背景があります。必ずしも数学的に厳密な方法論を
保障するワケではない、と言う事を、マルコフ連鎖の統計学への持込する場合は、
どっか心の片隅にでも置いておいて下さい。
いずれにせよ、今回は、問題文が『マルコフ連鎖』として考えろ、との事なんで、結果、

P(X2=1,X3=2｜X0=1,X1=2)＝P(X3=2|X0=1,X1=2,X2=1)*P(X2=1|X0=1,X1=2)
＝P(X3=2|X2=1)*P(X2=1|X1=2)

と簡略化出来ます。つまり、X1=2の状態からX2=1の状態へ移る確率、とX2=1の状態からX3＝2の状態へ移る確率
さえ分かればイイのです。ここまで来れば何てこと無いですね。
ここで初めて推移確率行列が顔を出します。

P=(P11=\(\frac{1}{2}\), P12=\(\frac{1}{2}\))
　(P21=\(\frac{2}{3}\), P22=\(\frac{1}{3}\))

これって内訳は左上から右下へ流れていくと、

P(Xn=1|Xn-1=1)＝\(\frac{1}{2}\)・・・n－1期に1だったものがn期に1にそのままステイする確率
P(Xn=2|Xn-1=1)＝\(\frac{1}{2}\)・・・n－1期に1だったものがn期に2に移る確率
P(Xn=1|Xn-1=2)＝\(\frac{2}{3}\)・・・n－1期に2だったものがn期に1に移る確率
P(Xn=2|Xn-1=2)＝\(\frac{1}{3}\)・・・n－1期に2だったものがn期に2にそのままステイする確率

と言う意味です。すなわち、nが何なのか、は任意なので、

P(X2=1|X1=2)＝\(\frac{2}{3}\)
P(X3=2|X2=1)＝\(\frac{1}{2}\)

として構わない、と言う事です。
従って、

P(X2=1,X3=2｜X0=1,X1=2)＝P(X3=2|X2=1)*P(X2=1|X1=2)
＝\(\frac{1}{2}\)*\(\frac{2}{3}\)
＝\(\frac{1}{3}\)

が答えとなるでしょうね。
まあ、間違ってたらすいません。