(1)0
(2)64
(1)$f'(x), f''(x), f'''(x)$ を計算すると
$$
\begin{eqnarray}
f'(x) &=& \frac{ad-bc}{(cx+d)^2} \\
f''(x) &=& \frac{-2c(ad-bc)}{(cx+d)^3}\\
f'''(x) &=& \frac{6c^2(ad-bc)}{(cx+d)^4}
\end{eqnarray}
$$
となる。$ad-bc\neq0$ なので与えられた式が定義され、
$$
\begin{eqnarray}
\frac{3\left(f''(x)\right)^2-2f'(x)f'''(x)}{\left(f'(x)\right)^2} &=& 3\cdot \frac{4c^2(ad-bc)^2}{(cx+d)^6}\cdot \frac{(cx+d)^4}{(ad-bc)^2}-2\cdot \frac{6c^2(ad-bc)}{(cx+d)^4}\cdot\frac{(cx+d)^2}{ad-bc}\\
&=& \frac{12c^2}{(cx+d)^2}-\frac{12c^2}{(cx+d)^2}\\
&=& 0
\end{eqnarray}
$$
より求める値は $0$ である。これはもちろん整数であり、$x$ や $a,b,c,d$ によらない。
(2)
$$
\begin{eqnarray}
\displaystyle g(x)&=&\frac{e^{4x+816}-e^{-4x-816}} {e^{4x+817}+e^{-4x-817}} \\
&=& \frac{e^{816}\cdot e^{8x}-e^{-816}} {e^{817}\cdot e^{8x}+e^{-817}}
\end{eqnarray}
$$
と変形できる。$a=e^{816}, b=-e^{-816}, c=e^{817}, d= e^{-817}$ とおくと、$ad-bc=e+1/e > 0$ であり、$y=e^{8x}$ とおくと $g(x)=f(y)$ と書ける。なお $y>0$ なので分母が $0$ になることはない。
合成関数の微分より、
$$
\begin{eqnarray}
g'(x) &=& f'(y)\cdot y' \\
g''(x) &=& f''(y)\cdot(y')^2+f'(y)\cdot y''\\
g'''(x) &=& f'''(y)\cdot(y')^2+3f''(y)\cdot y'y'' +f'(y)\cdot y'''
\end{eqnarray}
$$
である。$\displaystyle A=\frac{f''(y)}{f'(y)}, B=\frac{f'''(y)}{f'(y)}$ とおくと $\displaystyle \frac{g''(y)}{g'(y)}= Ay'+\frac{y''}{y'}, \frac{g'''(y)}{g'(y)}=B(y')^2+3Ay''+ \frac{y'''}{y'}$ であり、
$$
\begin{eqnarray}
\frac{3\left(g''(x)\right)^2-2g'(x)g'''(x)}{\left(g'(x)\right)^2} &=& 3 \left(\frac{g''(y)}{g'(y)}\right)^2 -2\left(\frac{g'''(y)}{g'(y)}\right) \\
&=& 3\left(Ay'+\frac{y''}{y'}\right)^2-2\left( B(y')^2+3Ay''+ \frac{y'''}{y'}\right)\\
&=& 3\left(A^2(y')^2+2Ay'' +\frac{(y'')^2}{(y')^2}\right)-2\left( B(y')^2+3Ay''+ \frac{y'''}{y'}\right) \\
&=& (y')^2 \cdot (3A^2-2B) + \frac{3\left(y''\right)^2-2y'y'''}{\left(y'\right)^2}
\end{eqnarray}
$$
(1)より $3A^2-2B=0$ なので、あとは $\displaystyle \frac{3\left(y''\right)^2-2y'y'''}{\left(y'\right)^2}$ を計算すればよく、
$$
\begin{eqnarray}
\frac{3\left(g''(x)\right)^2-2g'(x)g'''(x)}{\left(g'(x)\right)^2} &=& \frac{3\left(y''\right)^2-2y'y'''}{\left(y'\right)^2} \\
&=& \frac{3(8^2e^{8x})^2-2\cdot 8e^{8x} \cdot 8^3e^{8x}}{(8e^{8x})^2} \\
&=& \frac{3\cdot8^4\cdot e^{16x}-2\cdot8^4\cdot e^{16x}}{8^2\cdot e^{16x}} \\
&=& 8^2 \\
&=& 64
\end{eqnarray}
$$
と計算できる。これは確かに $x$ によらない整数である。
・(1)では求める値が $a,b,c,d$ によらないことが問題文に与えられているので、$a=1,b=-1,c=1,d=1$ などの特別な値で計算しても答えを出せます。
・関数 $f$ に対して $\displaystyle S[f] = \frac{f'''}{f'}-\frac{3}{2}\left(\frac{f''}{f'}\right)^2$ を $f$ の シュワルツ微分(Schwarzian derivative) と呼びます。本問で計算している量はシュワルツ微分を $-2$ 倍したものです。(1)で示したように、$1$ 次分数関数のシュワルツ微分は $0$ になります。また、(2)で示したように連鎖律 $S[g\circ f]= (g')^2\cdot S[f]+S[g]$ が成り立ちます。シュワルツ微分はたとえば、離散力学系の安定性を考えるときに有用です。詳しくは https://en.wikipedia.org/wiki/Schwarzian_derivative を参照してください。
この問題を解いた人はこんな問題も解いています