Разложить на множители 3a-3b-b^2+2ab-a^2

Для того, чтоб разложить выражение на множители, нужно верно сгруппировать составляющие. В нашем случае - 1-ые 2 слагаемые и 3 следующих:
3a-3b-b^2+2ab-a^2=3(a-b)-(b^2-2ab+a^2)=3(a-b)-(b-a)^2=3(a-b)-(a-b)^2=(a-b)(3-(a-b))=(a-b)(3-a+b);
Значит, 3a-3b-b^2+2ab-a^2=(a-b)(3-a+b).