3(4a-b)^2-2(a-b)(a+b)+4(a+3b)^2

   1. Обозначим:

      P = 3(4a - b)^2 - 2(a - b)(a + b) + 4(a + 3b)^2.

   2. Упростим выражение, воспользовавшись формулами для квадрата бинома и творенья суммы и разности 2-ух выражений:

• (a + b)^2 = a^2 + 2ab + b^2;
• (a - b)^2 = a^2 - 2ab + b^2;
• (a + b)(a - b) = a^2 - b^2;

      P = 3(4a - b)^2 - 2(a - b)(a + b) + 4(a + 3b)^2;

      P = 3(16a^2 - 8ab + b^2) - 2(a^2 - b^2) + 4(a^2 + 6ab + 9b^2).

   3. Раскроем скобки и приведем подобные члены:

      P = 48a^2 - 24ab + 3b^2 - 2a^2 + 2b^2 + 4a^2 + 24ab + 36b^2;

      P = 50a^2 + 41b^2.

   Ответ: 50a^2 + 41b^2.