разложите на множители квадратный трехчлен 3x^2-11x+6

Чтоб разложить квадратный трёхчлен на множители, надобно найти его корешки, приравняв нулю. Т.е. отыскиваем корни уравнения 3x - 11x + 6 = 0.
Корни можно разыскивать как обычно через дискриминант. Они будут одинаковы:
x1 = 3; x2 = 2/3
Разложение будет смотреться следующим образом: (x - 3)*(x - 2/3).

НО! Надобно ещё учитывать коэффициент, который стоит перед x, у нас он равен 3. Так вот, приобретенное разложение надо умножить на этот коэффициент!

Конечно разложение будет смотреться так:
3*(x - 3)*(x - 2/3) = (x - 3)*(3x - 2)

Общее управляло для уравнений вида
a x + b x + c
которые имеют корешки x1 и x2, можно разложить по формуле
a * (x - x1) * (x - x2)

Что мы и сделали.
Проверяем
(x - 3)*(3x - 2) = 3x - 2x - 9x + 6 = 3x - 11x + 6