この問題は「lim x→∞ cos(x)の極限値はいくつ？」と同じ。
要するに、「cos(∞)の値はいくつ？」ってこと。
（ここまではいいよね？）

∞ってのは、０とか１とかのようにビシっと決まった値じゃなくって、
「なんでもいいから大きい値をあてはめろ」という抽象的な意味なんだ。
よって、問題は「cos(なんでもいいから大きい値)の値はいくつ？」と
書き換えることができるわけだ。

さて、cos(x)は周期関数だから、xが大きいところでも
xが小さいところでも挙動は同じだよね。
さらに問題は整理できて、「cos(なんでもいい)の値はいくつ？」となる。

これの答えは、「-1から1までのどれか」としか答えようがない。
よって「不定」。

＃以上は高校生向けな答え。大学生向けには、極限に近づくときの
＃近づき方の違いで説明したほうが良いかな。

x=1/(2nπ) n=1,2,...という部分列を考える。
cos(\(\frac{1}{x}\))=cos(2nπ)=1だからlim(cos(\(\frac{1}{x}\)))=1
x=1/{(2n+1)π} n=1,2,...という部分列を考える。
cos(\(\frac{1}{x}\))=cos((2n+1)π)=-1だからlim(cos(\(\frac{1}{x}\)))=-1
任意のa(-1＜a＜1)に対して、適当な部分列をとれば
lim(cos(\(\frac{1}{x}\)))=aとできるから不定である。