(1)$\tan$ の倍角公式
$$
\tan2x=\frac{2\tan x}{1-\tan^2x}\ \ \cdots(\ast)
$$
を用いると
$$
\begin{eqnarray}
\tan2\theta&=&\frac{2\tan \theta}{1-\tan^2\theta}\\
&=&\frac{\displaystyle 2\cdot\frac{1}{4}}{\displaystyle 1-\left(\frac{1}{4} \right)^2 }\\
&=&\frac{8}{15}
\end{eqnarray}
$$
である。したがって $\fbox{ア}=8,\fbox{イウ}=15$ である。
(2)与えられた方程式は
$$
\begin{cases}
x_1(1-x_2^2)=2x_2 \\
x_2(1-x_3^2)=2x_3 \\
x_3(1-x_4^2)=2x_4 \\
x_4(1-x_1^2)=2x_1
\end{cases}
$$
と変形できる。ここで、$1-x_i^2 (i=1,2,3,4)$ のいずれかが $0$ の場合は明らかに解とならないことに注意する。$x_1=\tan\theta\ (-90^\circ<\theta<90^\circ,\theta\neq\pm45^\circ)$ とおくと、$(\ast)$ より $x_4=\tan2\theta,x_3=\tan{4\theta},x_2=\tan{8\theta}$ がわかる。そして $x_1=\tan\theta=\tan{16\theta}$ となるので、$\theta$ の範囲に注意すると
$$
\theta=0^\circ,\pm12^\circ,\pm24^\circ,\pm36^\circ,\pm48^\circ,\pm60^\circ,\pm72^\circ,\pm84^\circ
$$
がわかる。これらの $\theta$ の値のそれぞれについて、 $x_1=\tan\theta$ は相異なり、また $x_2=\tan{8\theta},x_3=\tan{4\theta},x_4=\tan2\theta$ が一意に定まるので、元の連立方程式を満たす実数 $(x_1,x_2,x_3,x_4)$ の組は全部で $15$ 個ある。よって $\fbox{エオ}=15$ である。
また、$\tan20^\circ < x_1 < \tan80^\circ$ を満たすような $\theta$ の値は $\theta=24^\circ,36^\circ,48^\circ,60^\circ,72^\circ$ の $5$ 個である。したがって $\fbox{カ}=5$ である。
この問題を解いた人はこんな問題も解いています