из сосуда заполненного глицерином отлили 3 л и добавили 3 л

Только это задача НЕ по геометрии)))
можно составить таблицу:
объем сосуда     глицерин               вода     глицерин%     вода%
         х                     х                        0            100%            0%
         х                   (х-3)                     3        (х-3)*100/х      3*100/х
        х-3        ((х-3) - 3*(х-3)/х)        3 - 3*3/х         --                 --
когда во 2-ой раз отлили 3л раствора, то
выходит, что отлили 3*(х-3)*100 / (х*100) л. глицерина 
и 3*3*100 / (х*100) л. воды...
получили уравнение:
((х-3) - 3*(х-3)/х) - (3 - 3*3/х + 3) = 4.2
x-3-6 + (9-3x+9) / x = 4.2
10(x-9)x + 10(18-3x) - 42x = 0
10x - 90x + 180 - 30x - 42x = 0
10x - 162x + 180 = 0
5x - 81x + 90 = 0
D = 81*81-4*5*90 = 9*(729-200) = 9*529 = (3*23)
x = (81-69)/10 = 1.2 литра не может быть объем начального сосуда
(3 литра не вылить)))
x = (81+69)/10 = 15 л. 
ПРОВЕРКА:
после первого "отливания" осталось 15-3 = 12 л глицерина
в процентах (в долях))):
15 ----- 100%
12 ----- ??     12*100/15 = 80% содержание глицерина
тогда остается 20% на воду ----- 3*100/15 = 20%
сейчас отлили 3 литра раствора
3 ----- 100%
?? ----- 80%     3*80/100 = 2.4 литра глицерина вылили
3 ----- 100%
?? ----- 20%     3*20/100 = 0.6 = 3-2.4 литра воды вылили
и 3 литра воды опять добавили...
(12-2.4) - (3-0.6 + 3) = 12 - 2.4 - 3 + 0.6 - 3 = 6 - 1.8 = 4.2