X^2-xy-2y^2 Разложить на множители напрмер (x+1)(x-4)

-2 * y представим в виде: - y - y, тогда начальное выражение воспримет вид: 

х - x * y - y - y.

Возьмем в скобки 1 и 3 слагаемые, а также 2 и 4. В последних скобках будем выносить общее за скобки, а в первых сумму квадратов представлять в виде произведения:

(х - y)- (x * y + y) =  (х - у) * (х + у) - у * (х + у).

Таким образом осталось два слагаемых и у их обоих есть общий множитель (х + у), который и вынесем за скобки:

(х - у) * (х + у) - у * (х + у) = (х + у) * (х - у - у) = (х + у) * (х - 2 *у)