Катер прошел 20 км ввысь по реке и 30 км вниз,

Скорость катера по течению: v = 25 + v
Скорость катера против течения: v = 25 - v

Время катера на движение по течению:  t = 30:(25+v)
Время катера на движение против течения:  t = 20:(25-v)

Так как    t+t = 2 (ч), то:
                                 30:(25+v) + 20:(25-v) = 2
                                 30*(25-v) + 20*(25+v) = 2(25+v)(25-v)
                                 750 - 30v + 500 + 20v = 1250 - 2v
                                 2v - 10v = 0
                                 v(v - 5) = 0
                                 v = 0 (км/ч) - не удовлетворяет условию.
                                 v = 5 (км/ч)

Ответ: скорость течения реки 5 км/ч.

X - скорость течения реки
 - время движения вверх по реке
 - время движения вниз по реке

 +  = 2
20(25+x)+30(25-x)=2(25-x)(25+x)
500+20x+750-30x=2(625-x)
1250-10x=1250-2x
2x-10x=0
x-5x=0
x(x-5)=0
x = 0, x = 5
Ответ: Скорость течения реки либо 0 км/ч (но тогда это теснее не река :)), или 5 км/ч