9 (2a-5b)^2-64 (6b-3a)^2

Тут мы можем увидеть формулу разности квадратов, которая считается по формуле:
x^2 - y^2 = (x - y) * ( x + y). Так же эта формула применяется в оборотном порядке:

(x - y) * ( x + y) = x^2 - y^2;

Как следует мы можем подставить ее в наши выражения и выполнить правильное разложение на множители:

9 * (2a - 5b)^2 - 64 * (6b - 3a)^2 = (3 * (2a - 5b) - 8 * (6b - 3a)) * (3 * (2a - 5b) + 8 * (6b - 3a)) = (6a - 15b - 28b + 24a) * (6a - 15b + 48b - 24a) = (30a - 43b) * (- 18a + 33b);

Ответ: (30a - 43b) * (- 18a + 33b).