A) tg^2x-6tgx+5=0 б) tg^2x-2tgx-3=0

а) Производим подмену переменных t = tg(x):

t^2 - 6t + 5 = 0.

Корешки квадратного уравнения вида ax^2 + bx + c = 0 определяются
по формуле: x12 = (-b +- (b^2 - 4 * a * c) / 2 * a.

t12 = (6 +- (36 - 4 * 1 * 5)) / 2 * 1 = (6 +- 5) / 2.

t1 = (6 - 5) / 2 = 1/2; t2 = (6 + 5) / 2 = 11/2.

Производим оборотную подмену:

tg(x) = 1/2;

x1 = arctg(1/2) +- 2 * * n, где n натуральное число.

tg(x) = 11/2;

x2 = arctg(11/2) +- 2 * * n.

б) После подмены:

t^2 - 2t - 3 =0;

t1 = -1; t2 = 3.

x1 = -/4 +-  * n;

x2 = /3 +-  * n.