Разложите на множители многочлен: 5a+ab^2-a^2b-5b=

Сгруппируем многочлен, так чтоб можно было получить общий множитель (a - b), и вынесем его за скобки.
5a + ab^2 - a^2b - 5b = 5*(a - b) - ab*(a - b) = (a - b)*(5 - ab)
Проверка, раскроем скобки:
(a - b)*(5 - ab) = 5a - a^2b -5b + ab^2. Проверка подтверждает верность решения.