$\angle\mathrm{BAC}=\theta,\angle\mathrm{DAC}=\phi\ \ (0\leq\theta,\phi\leq\pi/2)$ とおき、$xy$ 平面で $\mathrm{A}(0,0),\mathrm{B}(\cos\theta,\sin\theta),\mathrm{C}(2\cos\theta,0),\mathrm{D}(2\cos\phi,2\sin\phi)$ と座標をとる。このとき$\mathrm{AB=BC}=1,\mathrm{DA}=2$ が満たされている。
まず $\mathrm{CD}=1$ を用いて $\cos\phi$ を $\cos\theta$ で表す。$\triangle\mathrm{DAC}$ に余弦定理を用いると
$$
\begin{eqnarray}
\cos\phi&=&\frac{\mathrm{AD}^2+\mathrm{AC}^2-\mathrm{CD}^2}{2\cdot\mathrm{AD}\cdot\mathrm{AC}}\\
&=&\frac{3+4\cos^2\theta}{8\cos\theta}\ \ \ \ \cdots(1)
\end{eqnarray}
$$
である。さらに線分 $\mathrm{BC}$ と線分 $\mathrm{DA}$ が点 $\mathrm{P}$ で交わっていることから $0\leq\phi\leq\theta$ であり、いま $0\leq\theta,\phi\leq\pi/2 $ であるからこれは $1 \geq \cos\phi \geq \cos\theta$ と同値である。$(1)$ を用いると、右側の不等式は $(2\cos\theta-3)(2\cos\theta-1)\leq0$ と同値であり、($\cos\theta\leq1$ なので)$1/2\leq\cos\theta$ を得る。一方左側の不等式からは $\cos^2\theta\leq3/4$ を得る。したがって $\cos^2\theta$ のとり得る値の範囲は
$$
\begin{eqnarray}
\frac{1}{4}\leq\cos^2\theta\leq\frac{3}{4}\ \ \cdots(2)
\end{eqnarray}
$$
である。
さて、次に $(2)$ のもとで点 $\mathrm{P}$ の座標を求める。直線 $\mathrm{BC},\mathrm{DA}$ の方程式はそれぞれ
$$
\begin{eqnarray}
&&\mathrm{BC}: \frac{x}{\cos\theta}+\frac{y}{\sin\theta}=2\\
&&\mathrm{DA}: y=\tan\phi \ x
\end{eqnarray}
$$
であるから、これらを連立することで点 $\mathrm{P}$ の座標は
$$
\begin{eqnarray}
\mathrm{P} \left(\frac{2}{\displaystyle\frac{1}{\cos\theta}+\frac{\tan\phi}{\sin\theta}}, \frac{2\tan\phi}{\displaystyle\frac{1}{\cos\theta}+\frac{\tan\phi}{\sin\theta}} \right)
\end{eqnarray}
$$
と求まる。したがって線分 $\mathrm{AP}$ の長さは、 $(1)$ を用いて変形することで
$$
\begin{eqnarray}
\mathrm{AP}&=& 2\sqrt{1+\tan^2\phi}\left( \frac{1}{\cos\theta}+\frac{\tan\phi}{\sin\theta} \right)^{-1}\\
&=&2\left( \frac{\cos\phi}{\cos\theta}+\frac{\sin\phi}{\sin\theta} \right)^{-1}\\
&=&2\left( \frac{3+4\cos^2\theta}{8\cos^2\theta}+\frac{\sqrt{1-\frac{(3+4\cos^2\theta)^2}{64\cos^2\theta}} }{\sqrt{1-\cos^2\theta} } \right)^{-1}\\
&=&16\left( \frac{3+4\cos^2\theta}{\cos^2\theta}+\sqrt{ \frac{(4\cos^2\theta-9)(4\cos^2\theta-1)}{\cos^2\theta(\cos^2\theta-1)} } \right)^{-1}
\end{eqnarray}
$$
と表せる。ここで $t=\cos^2\theta$ とおき
$$
f(t)=\frac{3+4t}{t}+\sqrt{\frac{(4t-9)(4t-1)}{t(t-1)}}\ \ \left(\frac{1}{4} \leq t \leq \frac{3}{4} \right)
$$
と定めれば、$\mathrm{AP}$ の長さが最大となるのは $f(t)$ が最小となるときである。なお $(2)$ より $4t-9<0,4t-1>0,t>0,t-1<0$ であり、したがって根号の中身は正である。
さて、最小値を求めるため $f(t)$ を $t$ で微分すると
$$
\begin{eqnarray}
f'(t)&=&-\frac{3}{t^2}+\frac{1}{2}\sqrt{\frac{t(t-1)}{(4t-9)(4t-1)}}\ \cdot\ \frac{(32t-40)t(t-1)-(4t-9)(4t-1)(2t-1)}{t^2(t-1)^2}\\
&=&-\frac{3}{t^2}+\frac{1}{2}\sqrt{\frac{t(t-1)}{(4t-9)(4t-1)}}\ \cdot\ \frac{3(8t^2-6t+3)}{t^2(t-1)^2}\\
&=&\frac{3}{2t^2} \left(-2+ \sqrt{\frac{t(t-1)}{(4t-9)(4t-1)}}\ \cdot\ \frac{8t^2-6t+3}{(t-1)^2} \right)
\end{eqnarray}
$$
である。よって $4t-9<0,t-1<0,8t^2-6t+3>0$ に注意して同値変形すると、$f'(t)$ の符号について
$$
\begin{eqnarray}
&&f'(t)\geq0\\
\Leftrightarrow&&\sqrt{\frac{t(t-1)}{(4t-9)(4t-1)}}\ \cdot\ \frac{8t^2-6t+3}{(t-1)^2} \geq 2 \\
\Leftrightarrow&&\sqrt{\frac{t(t-1)}{(4t-9)(4t-1)}} \geq \frac{2(t-1)^2}{8t^2-6t+3} \\
\Leftrightarrow&&\frac{t(t-1)}{(4t-9)(4t-1)}\geq\frac{4(t-1)^4}{(8t^2-6t+3)^2}\\
\Leftrightarrow&&t(8t^2-6t+3)^2\geq4(t-1)^3(4t-9)(4t-1) \\
\Leftrightarrow&& 64t^5-96t^4+84t^3-36t^2+9t \geq 64t^5-352t^4+708t^3 -652t^2+268t-36\\
\Leftrightarrow&& 256t^4-624t^3+616t^2-259t +36 \geq 0
\end{eqnarray}
$$
が成り立つ。したがって、
$$
\begin{eqnarray}
g(t) &=& 4(256t^4-624t^3+616t^2-259t +36)\\
&=& 1024t^4-2496t^3+2464t^2-1036t +144
\end{eqnarray}
$$
とおくと $f'(t)$ の符号変化と $g(t)$ の符号変化は一致する。
ここで実数 $\displaystyle a=-\frac{2496}{64}=-39,b=2464,c=-\frac{1036}{2}=-518$ について実数 $p,q$ を
$$
\begin{eqnarray}
p&=&\frac{b+c-a^2}{a+64}=\frac{2464-518-39^2}{-39+64}=\frac{425}{25}=17,\\
q&=&64p+a^2-b=64\times17+39^2-2464=145
\end{eqnarray}
$$
で定めると $p^2-q=17^2-145=144$ が成り立つので、与えられた事実を用いると
$$
\begin{eqnarray}
g(t) &=& 1024t^4-2496t^3+2464t^2-1036t +144\\
&=&1024t^4+64at^3+bt^2+2ct+p^2-q\\
&=&(32t^2+at+p)^2-q(t-1)^2\\
&=& (32t^2-39t+17)^2-145(t-1)^2\\
&=& (32t^2-39t+17+\sqrt{145}(t-1))(32t^2-39t+17-\sqrt{145}(t-1))\\
&=& (32t^2+(-39+\sqrt{145})t+17-\sqrt{145})(32t^2+(-39-\sqrt{145})t+17+\sqrt{145})
\end{eqnarray}
$$
と因数分解できる。すなわち
$$
\begin{eqnarray}
g_1(t) &=& 32t^2+(-39+\sqrt{145})t+17-\sqrt{145}\\
g_2(t)&=& 32t^2+(-39-\sqrt{145})t+17+\sqrt{145}
\end{eqnarray}
$$
とおくと $g(t)=g_1(t)g_2(t)$ である。
ここで、$2$ 次方程式 $g_2(t)=0$ の判別式は
$$
\begin{eqnarray}
&&(-39-\sqrt{145})^2-128(17+\sqrt{145})\\
&=&-510-50\sqrt{145}<0
\end{eqnarray}
$$
であるから実数解を持たない。したがって結局 $f'(t)$ の符号変化は $g_1(t)$ の符号変化に等しい。そして
$$
\begin{eqnarray}
g_1\left( \frac{1}{4} \right) &=& 2+\frac{-39+\sqrt{145}}{4}+17-\sqrt{145}\\
&=&\frac{8-39+\sqrt{145}+68-4\sqrt{145}}{4}\\
&=&\frac{37-3\sqrt{145}}{4}>0\\
g_1\left( \frac{1}{2} \right) &=& 8+\frac{-39+\sqrt{145}}{2}+17-\sqrt{145}\\
&=&\frac{16-39+\sqrt{145}+34-2\sqrt{145}}{2}\\
&=&\frac{11-\sqrt{145}}{2}<0\\
g_1\left( \frac{3}{4} \right) &=& 18+\frac{-117+3\sqrt{145}}{4}+17-\sqrt{145}\\
&=&\frac{72-117+3\sqrt{145}+68-4\sqrt{145}}{4}\\
&=&\frac{23-\sqrt{145}}{4}>0\\
\end{eqnarray}
$$
であるから、$f(t)$ が極小値をとる $t$ が$1/2<t<3/4$ の範囲に存在し、その値は $2$ 次方程式 $g_1(t)=0$ の $2$ つの解のうち大きい方に等しく
$$
\begin{eqnarray}
t&=&\frac{1}{64} \left( 39-\sqrt{145} + \sqrt{ (-39+\sqrt{145})^2 -128(17-\sqrt{145}) }\right) \\
&=&\frac{39-\sqrt{145}+\sqrt{-510+50\sqrt{145}\ }}{64}
\end{eqnarray}
$$
である。さらに $f(1/2)=10+2\sqrt7<16=f(1/4)=f(3/4)$ であるから、上の $t$ の値において $f(t)$ は最小値をとることがわかる。
さて、求めるのは $f(t)$ が最小になる状況における $\mathrm{AC}=2\cos\theta=2\sqrt{t}$ の値であった。上の $t$ の値を代入すれば
$$
\begin{eqnarray}
\mathrm{AC}&=&\displaystyle 2\sqrt{\frac{39-\sqrt{145}+\sqrt{-510+50\sqrt{145}\ }}{64}}\\
&=&\frac{\sqrt{39-\sqrt{145}+\sqrt{-510+50\sqrt{145}\ }}}{4}\\
\end{eqnarray}
$$
を得る。したがって
$$
\begin{eqnarray}
\fbox{アイ}=39,\fbox{ウエオ}=145,\fbox{カキクケ}=-510,\fbox{コサ}=50,\fbox{シスセ}=145,\fbox{ソ}=4\\
\end{eqnarray}
$$
である。
ここまで読んでいただきありがとうございます。$f(t)$ の表式を求めるところまでいけば、あとはWolframAlphaに投げればフェラーリの方法で $4$ 次方程式の解が求まります。
この問題を解いた人はこんな問題も解いています