5(1-y)^2-(3+y)^2-3(1-y)(1+y)

1) Для правильного разложения этого выражения на множители нам будет нужно использовать формулу разности квадратов :

a^2 - b^2 = (a - b) * (a + b) ;

5 * (1 - 2y)^2 - (3 + y)^2 = 5 * (1 - 2y - (3 + y)) * ( 1 - 2y + 3 + y);

Сократим сходственные слагаемые :

5 * (-3y - 2) * (4 - y);

3 * (1 - y) * (1 + y) ; Формула работает и в оборотную сторону , потому  :

3 * (1 - y^2) = 3 - 3 * Y^2 ;

 2) Запишем ответ нашего разложения :

5 * (4 - y) * ( -3y - 2) - (3 - 3 * y^2) = 5 * (4 - y) * (-3y - 2) - 3 + 3 * y^2;