3cos2x+sin(во второй ступени)x+5sinxcosx=0

Задействовав формулу двойного аргумента для косинуса, получим:

3cos^2(x) - 3sin^2(x) + sin^2(x) + 5ssin(x)cos(x) = 0;

-2sin^2(x) + 5sin(x)cos(x) + 3cos^2(x) = 0.

Разделим уравнение на cos^2(x) и обратившись к определению тангенса, получим:

-2tg^2(x) + 5tg(x) + 3 = 0.

Произведем замену t = tg(x):

2t^2 - 5t - 3 = 0.

Корешки квадратного уравнения вида ax^2 + bx + c = 0 определяются
по формуле: x12 = (-b +- (b^2 - 4 * a * c) / 2 * a.

t12 = (5 +- 7) / 4;

t1 = (5 - 7) / 2 = -1/2; t2 = (5 + 7) / 2 = 6.

x1 = arctg(-1/2) +-  * n;

x2 = arctg(6) +-  * n.