6sin^2x-sinx*сosx-cos^2x=0

6 * sin^2 x - sin x * сos x - cos^2 x = 0; 

Разделяем уравнение на cos^2 x. 

6 * sin^2 x/cos^2 x - (sin x * cos x)/sin^2 x - cos^2 x/cos^2 x = 0; 

6 * tg^2 x - cos x/sin x - 1 = 0; 

6 * tg^2 x - tg x - 1 = 0; 

Пусть tg x = а, тогда:  

6 * a^2 - a - 1 = 0; 

Найдем дискриминант квадратного уравнения: 

D = b^2 - 4 * a * c = 1 + 4 * 6 * 1 = 1 + 24 = 25; 

a1 = (1 + 5)/12 = 6/12 = 1/2; 

a2 = (1 - 5)/12 = -4/12 = -1/3; 

Тогда: 

1) tg x = 1/2; 

x = arctg (1/2) + pi * n, где n принадлежит Z; 

2) tg x = -1/3; 

x = -arctg (1/3) + pi * n, где n принадлежит Z.