任意の実数 $x,y,z$ に対して
$$
\begin{pmatrix} 1 & 1 & 0\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}
\begin{pmatrix} 1 & x & y\\ 0 & 1 & z \\ 0 & 0 & 1\end{pmatrix}
=\begin{pmatrix} 1 & x+1& y+z\\ 0 & 1 & z \\ 0 & 0 & 1\end{pmatrix},\\
\begin{pmatrix} 1 & 0 & 0\\ 0 & 1 & 1 \\ 0 & 0 & 1\end{pmatrix}
\begin{pmatrix} 1 & x & y\\ 0 & 1 & z \\ 0 & 0 & 1\end{pmatrix}
=\begin{pmatrix} 1 & x& y\\ 0 & 1 & z+1 \\ 0 & 0 & 1\end{pmatrix},\\
\begin{pmatrix} 1 & 0 & 1\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}
\begin{pmatrix} 1 & x & y\\ 0 & 1 & z \\ 0 & 0 & 1\end{pmatrix}
=\begin{pmatrix} 1 & x& y+1\\ 0 & 1 & z \\ 0 & 0 & 1\end{pmatrix}
$$
なので、
$$
\begin{pmatrix} 1 & 1 & 0\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}^a
\begin{pmatrix} 1 & 0 & 0\\ 0 & 1 & 1 \\ 0 & 0 & 1\end{pmatrix}^b
\begin{pmatrix} 1 & 0 & 1\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}^c\\
=\begin{pmatrix} 1 & 1 & 0\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}^a
\begin{pmatrix} 1 & 0 & 0\\ 0 & 1 & 1 \\ 0 & 0 & 1\end{pmatrix}^b
\begin{pmatrix} 1 & 0 & c\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}\\
=\begin{pmatrix} 1 & 1 & 0\\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}^a
\begin{pmatrix} 1 & 0 & c\\ 0 & 1 & b \\ 0 & 0 & 1\end{pmatrix}\\
=\begin{pmatrix} 1 & a & c+ab\\ 0 & 1 & b \\ 0 & 0 & 1\end{pmatrix}
$$
と計算できる。よって $a=20,b=24,c=2024-20\times24=1544$ なので、$a+b+c=1588$ である。
$$
\begin{pmatrix} 1 & x & y\\ 0 & 1 & z \\ 0 & 0 & 1\end{pmatrix}
$$
の形からなる $3\times3$ 行列全体の集合は群をなす。これはハイゼンベルク群と呼ばれ、量子物理などで重要である(らしい)。
参考: https://en.wikipedia.org/wiki/Heisenberg_group
この問題を解いた人はこんな問題も解いています