Магнитная стрелка компаса ($\vec{H}_{рез}$) отклоняется на угол $\alpha$ под действием двух полей: поля Земли ($\vec{H}_З$) и поля катушки ($\vec{H}_К$).
Из геометрии векторов (прямоугольный треугольник):
$tg(\alpha) = \frac{H_К}{H_З} \implies H_З = \frac{H_К}{tg(\alpha)}$