Известно, что из чисел a, a+b, a+b^2 можно составить арифметическую прогрессию.

Если это арифметическая прогрессия, то a1 = a, a2 = a + b, d = a2 - a1 = b.
Тогда a3 = a + 2d = a + b^2 = a + 2b
b^2 = 2b; b = 2
Но b должно быть нецелым числом. Означает, это решение не подходит.
Иное решение: a + b^2 = a2; d = b^2, тогда
a + b = a3 = a + 2d = a + 2b^2
b = 2b^2
1 = 2b
b = 1/2 - это правильное решение.