cos^2x3sin^2x=sin2x

Переносим все вправо

0 = 3sin^2 x - 2sin x*cos x - cos^2 x

Явно, cos x не равен 0, по другому sin^2 x = 1; 3sin^2 x = 3.

Разделяем всё на cos^2 x.

3tg^2 x - 2tg x - 1 = 0

(tg x - 1)(3tg x + 1) = 0

x1 = arctg(1) + pi*n = pi/4 + pi*n, n Z

x2 = - arctg(1/3) + pi*k, k Z