3sin^2 x + 11sin x cos x + 10cos^2 x =

3sinx + 11sinxcosx + 10cosx = 0.

Поделим все уравнение на cosx, тогда ОДЗ: cosx не равен 0, х не равен п/2 + пn, n - целое число.

3sinx/cosx + 11sinxcosx/cosx + 10cosx/cosx = 0.

Так как sinx/cosx = tgx, то получаем уравнение:

3tgx + 11tgx + 10 = 0.

Произведем подмену, пусть tgx = а.

3а + 11а + 10 = 0.

Решаем квадратное уравнение через дискриминант:

D = 11 - 4 * 3 * 10 = 121 - 120 = 1 (D = 1);

а₁ = (-11 - 1)/(2 * 3) = -12/6 = -2.

а₂ = (-11 + 1)/6 = -10/6 = -1 2/3.

Вернемся к замене tgx = а:

а = -2; tgx = -2; х = arctg(-2) + пn, n - целое число.

а = -1 2/3; tgx = -1 2/3; х = arctg(-1 2/3) + пn, n - целое число.