8a^b^3-12a^b^4+16a^3b^3

1) Раскроем скобки, учитывая, что при умножении минуса на минус будет положительное число, а при умножении минуса на плюс отрицательное:  

Чтоб возвести выражение в ступень надобно поначалу возвести в ступень число, а потом умножить его на число в степени.  

Если число в определенной степени строят в ступень, то характеристики ступеней перемножаются. Воспользуемся данным правилом и выполним вычисления:  

8 * a^2 * b^3 - 12 * a^2 * b^4 + 16 * a^3 * b^3 = 4 * a^2 * b^3 * (2 - 3b + 4a); 

Приобретенное выражение мы записываем в ответ.