сумма первых трех членов геометрической прогрессии одинакова 12, а сумма первых

Апишем условие в виде системы
b+bq+bq^2=12
b^2+b^2q^2+b^2q^4=336

вынесем множители 
b(1+q+q^2)=12
b^2 (1+q^2+q^4)=336

преобразуем 
b (q^3-1)/(q-1)=12
b^2 (q^6-1)/(q^2-1)=336

преобразуем заключительное уравнение 
b^2 (q^3-1)/(q-1) (q^3+1)/(q+1)=336

подставим 1-ое уравнение во второе
b (q^3+1)/(q+1)12=336
упростим
b (q^3+1)/(q+1)=28

преобразуем 
28 (q+1)/(q^3+1)=12 (q-1)/(q^3-1)
введем ОДЗ q lt;gt;1 и q lt;gt;-1 

преобразуем числитель разности дробей
28(q^2+q+1)=12 (q^2-q+1)

приведем сходственные слагаемые
16q^2+40q+16=0

решим уравнение
q^2+2.5q+1=0
D= 6.25-41=2.25
q=(-2.5+1.5)/2=-0.5

q=(-2.5-1.5)/2=-2

найдем b для корня 1
(-8-1)/(-2-1)b=12
3b=12
b=4


найдем b для корня 2
(-0.125-1)/(-0.5-1)b=12

1.125/1.5b=13
9b/12=12
b=144/9

ответ 1 b=4 q=-2
ответ 2 b=144/9 q=-1/2