2sin^2 x-7sinxcosx+5cos^2 x=0

Разделив исходное уравнение на cos^2(x) и обратившись к определению тангенса, получим уравнение:

2tg^2(x) - 7tg(x) + 5 = 0.

Произведем подмену переменных t = tg(x):

2t^2 - 7t + 5 = 0.

Корешки квадратного уравнения вида ax^2 + bx + c = 0 определяются
по формуле: x12 = (-b +- (b^2 - 4 * a * c) / 2 * a.

t12 = (7 +- (49 - 4 * 2 * 5)) / 2 * 2 = (7 +- 3) / 4;

t1 = (7 - 3) / 4 = 1; t2 (7 + 3) / 4 = 5/2.

Оборотная подмена:

tg(x) = 1;

x1 = arctg(1) +-  * n, где n естественное число;

tg(x) = 5/2;

x2 = arctg(5/2) +- +-  * n.