2sin^2x-7sinx*cosx+5cos^2x=0

Разделим уравнение на cos^2(x) и обратимся к определению тангенса. Тогда изначальное уравнение воспримет вид:

2tg^2(x) - 7tg(x) + 5 = 0.

 Произведем замену t = tg(x):

2t^2 - 7t + 5 = 0.

 Корешки квадратного уравнения вида ax^2 + bx + c = 0 определяются
по формуле: x12 = (-b +- (b^2 - 4 * a * c) / 2 * a.

 t12 = (7 +- (49 - 4 * 2 * 5) / 2 * 2 = (7 +- 3) / 4;

t1 = (7 - 3) / 4 = 1; t2 = (7 + 3) / 4 = 5/2.

Производим оборотную подмену:

tg(x) = 1;

x1 = arctg(1) +-  * n, где n естественное число;

x2 = arctg(5/2) +-  * n.