(a+b)(a+b)^2-3ab)=a^3+b^3

Нужно упростить выражение. Для этого нам пригодится познание формулы куба суммы.

(a + b) * (a + b) ^2 - 3 * a * b = a^3 + b^3;

Совершенно однообразные скобки множатся и их можно переписать в виде куба. 

(a + b) ^3 - 3 * a * b = a^3 + b^3;

Используем формулу. И переносим правую часть в левую. Сокращаем, выводим общий множитель. 

a^3 + 3 * a^2 * b + 3 * a * b^2 + b^3 - a^3 - b^3 - 3 * a * b = 3 * a^2 * b + 3 * a * b^2 - 3 * a * b = 3 * a * b * (a + b - 1) 

Выражение упрощенно.