与えられた条件1より,$n$が素数であれば$$(n-1)!+1\equiv0\pmod n$$が成り立つ.$n$が素数でない場合は1以上$n-1$以下の整数$l$を用いて$$(n-1)!+1\equiv l\pmod n$$となる.したがって,
$$
{\rm floor}\left(\cos^2\cfrac{(k-1)!+1}{k}\pi\right)=
\begin{cases}
1 & (k:prime)\\
0 & (otherwise)
\end{cases}
$$とわかる.このことから
$$
{\displaystyle{\sum_{k=1}^m}\; {\rm floor}\left(\cos^2\cfrac{(k-1)!+1}{k}\pi\right)} = (m以下の素数の個数)+1
$$となる.ここで与えられた条件2を考慮すれば,
$$
{\rm floor}\left[\sqrt[n]{\frac{n}{\displaystyle{\sum_{k=1}^m}\; {\rm floor}\left(\cos^2\cfrac{(k-1)!+1}{k}\pi\right)}}\right]=
\begin{cases}
1 & (mがn番目の素数未満)\\
0 & (mがn番目の素数以上)
\end{cases}
$$が成り立つ.よって,$a_n$は$n$番目の素数を表していることがわかる.求めるべき$a_{20}$は20番目の素数であることから,71が正解となる.
この問題を解いた人はこんな問題も解いています