Дано соотношение 2a^2 +4a + 2b^2 - 4b - 5(a+1)(b-1) +

2a^2 + 4a + 2b^2 - 4b - 5(a+1)(b-1) + 4 = 0
2(a^2 + 2a + 1) - 2 + 2(b^2 - 2b + 1) - 2 - 5(a+1)(b-1) + 4 = 0
2(a + 1)^2 + 2(b - 1)^2 - 5(a + 1)(b - 1) = 0
Разделяем всё на (b - 1)^2

Замена
2x^2 - 5x + 2 = 0
(x - 2)(2x - 1) = 0


Так как уравнение квадратное, то получилось два значения.