3Cos^(2)X- Sin^(2)X-Sin2X=0

3Cos²x -  Sin²x - Sin2x = 0;

Развернем по формуле двойного довода sin2x:

3cos²x - sin²x - 2sinxcosx = 0;

Разделим каждый член уравнения на cos2x:

3 - tg²x - 2tgx = 0;

Умножим на -1 и на первом месте запишем квадрат, дальше тангенс, дальше 3:

tg²x + 2tgx - 3 = 0;

Решаем квадратное уравнение:

D = 4 + 12 = 16;

tgx = (-2 +- 4)/2;

tgx = 1; tgx = -3;

x1 = pi/4 + pin, n из Z;

x2 = arctg(-3) + pin, n из Z.

Ответ: pi/4 + pin, n из Z; arctg(-3) + pin, n из Z.