方針

整数を成分にもつ二次正方行列 $A$ で、 $\operatorname{det}(A)=\pm 1$ かつ

$$\begin{pmatrix} l \\ m \end{pmatrix}= A \begin{pmatrix} a \\ b \end{pmatrix}$$

の $m$ ができるだけ絶対値が小さくなるようなものを順次探す。