2cos^2x+sin2x-8cos2x=0

Задействуем формулы двойного аргумента для косинуса и синуса. Изначальное уравнение примет вид:

2cos^2(x) - 2sin^2(x) + 2sin(x)cos(x) - 8cos^(x) = 0;

-2sin^2(x) + 2sin(x)cos(x) - 6cos^2(x) = 0.

Разделим уравнение на cos^2(x):

-2tg^2(x) + 2tg(x) - 6 = 0;

Произведем подмену t = tg(x):

t^2 - t + 3 = 0.

t12 = (-1 +-13) / 2.

Производим оборотную подмену:

tg(x) = (-1 - 13) / 2;

x1 = arctg((-1 - 13) / 2) +-  * n, где n естественное число.

tg(x) =  (-1 + 13) / 2;

x2 = arctg((-1 + 13) / 2) +-  * n.