3cos^2x=4sinxcosx-sin^2x

3cos 2x = 4sin x cos x - sin 2x.

3cos 2x = 2sin 2x - sin 2x;

3 - 3sin 2x = 2sin 2x - sin 2x.

Перенесём всё в правую часть:

2sin 2x + 2sin 2x - 3 = 0.

Создадим подмену sin 2x = y [-1, 1]:

2y + 2y - 3 = 0;

D = 4 - 4  2  (-3) = 4 + 24 = 28; D = 27;

y = (-2 + 27) / 4 = -1/2 + 7/2;

y = (-2 - 27) / 4 = -1/2 - 7/2 lt; -1 не подходит.

sin 2x = -1/2 + 7/2;

2x = (-1) arcsin(-1/2 + 7/2) + n, n целое;

x = (-1)/2 arcsin(-1/2 + 7/2) + n/2, n целое.