из цистерны отлили о,3 находящегося в ней бензина.потом отлили 3,5 оставшегося

Пусть в начале было Х бензина, тогда:
Х-0,3-3/5(Х-0,3)=5,88
представим в виде естественных дробей:

    Х               3                 3Х          9        588
---------    -    ------     -   ------   +   ------ = ---------
    1              10                 5          50       100

приведем к общему знаменателю и сократим:

100Х - 30 - 60Х + 18 = 588
40Х=600
Х=600/40=15 литров