При каких a отношение корней уравнения x^2-(a+2)x+a^2-1=0 одинаково 3?

Можно и по т.Виета:
a-1 = x * x
a+2 = x + x
и по условию или x = 3x   или x = 3x
1) x = 3x 
a-1 = 3x * x
a+2 = 4x ---gt; x = (a+2)/4
a-1 = 3*(a+2)/16
16a-16 = 3a+12a+12
13a - 12a - 28 = 0
D=144+1456=40
a; = (12+-40) / 26 
a = 2   a = -18/13
2) x = 3x 
a-1 = 3(x)
a+2 = 4x ---gt; x = (a+2)/4
a-1 = 3*(a+2)/16
в этом случае решение то же самое