$\displaystyle f\left(\frac{1}{x}\right)=\frac{f(x)}{x} $ の両辺を $x$ で微分すると$\displaystyle -\frac{1}{x^2}f'\left(\frac{1}{x}\right)=\frac{xf'(x)-f(x)}{x^2} $ となる。
これに $x=1$ を代入して$-f'(1)=f'(1)-f(1)$、$f(1)=1$と併せて$\displaystyle f'(1)=\frac{1}{2}$を得る。
(1)$\displaystyle \frac{d^2}{dx^2} f(x)\leq 0$より、$f(x)$は上に凸である。よって凸不等式から
$$
f(x)\leq f(1)+f'(1)(x-1)=\frac{x+1}{2}
$$
であり、両辺を$x\in[1/2,2]$で積分することで
$$
\int_{\frac{1}{2}}^{2}f(x)dx \leq \int_{\frac{1}{2}}^{2} \frac{x+1}{2} dx =\frac{27}{16}
$$
が得られる。$\displaystyle f(x)=\frac{x+1}{2}$ は問題の条件を満たす関数であるから、$\displaystyle I [f]=\int_{\frac{1}{2}}^{2}f(x)dx$ の最大値は$\displaystyle \frac{27}{16}$ であり、$\fbox{アイ}=27,\fbox{ウエ}=16$ である。
(2)$\displaystyle \frac{d^2}{dx^2} \left( \frac{1}{f\left(\frac{1}{x}\right)} \right) \leq 0$より、$\displaystyle g(x):=\frac{1}{f\left(\frac{1}{x}\right)}$は上に凸である。よって凸不等式から
$$
g(x)\leq g(1)+g'(1)(x-1)=\frac{x+1}{2}
$$
であり、$f(x)$の式に戻すと
$$
f(x)\geq \frac{2x}{x+1}
$$
が得られる。この両辺を$x\in[1/2,2]$で積分することで
$$
\int_{\frac{1}{2}}^{2}f(x)dx \geq \int_{\frac{1}{2}}^{2} \frac{2x}{x+1} dx =3-2\log2
$$
が得られる。$\displaystyle f(x)=\frac{2x}{x+1}$ もまた問題の条件を満たす関数であるから、$\displaystyle I [f]=\int_{\frac{1}{2}}^{2}f(x)dx$ の最小値は $3-2\log2$ であり、$\fbox{オ}=3,\fbox{カ}=2,\fbox{キ}=2$ である。
題意を満たす$f$としては、他に $f(x)=\sqrt{x}$ や $\displaystyle f(x)=\frac{x-1}{\log x}$(ただし$f(1)=1$とする)などがある。本問は、関数の作用素単調性が背景にある。
参考: 情報幾何学の基礎 数理情報科学シリーズ29 (藤原彰夫著,牧野書店)
この問題を解いた人はこんな問題も解いています