Из сосуда, заполненного спиртом, отлили 6 л. Затем долили в него

Изначально: x л. спирта
Отлили 6 л., осталось x-6 л. спирта.
Долили 6 л. воды - вышла смесь из (x-6) спирта и 6 воды.
Концентрация спирта: k = (x-6)/x.

Если мы далее и будем отливать смесь, то концентрация не изменится. Она может измениться только если мы дольём в сосуд незапятнанный спирт или чистую воду.
Значит, k = 80%.
(x-6)/x = 0.8
x-6 = 0.8x
0.2x = 6
x = 30
----------------------------
Условие про 5 л. тут никак не употребляется, но если составители задачки требуют конкретно его, могу притвориться, что не знаю, чему равно k )))
Рассуждаем так:
Имеем смесь из (x-6) спирта и 6 воды. Концентрация спирта: k = (x-6)/x.
Отлили 5 л. консистенции - это 5k спирта и 5*(1-k) воды.
Осталось в сосуде (x-6-5k) спирта, а всего (x-5) л. консистенции.
По условию, раствор 80%-ный, т.е. (x-6-5k) = 0.8(x-5).
x - 6 - 5(x-6)/x = 0.8x - 4
xx - 6x - 5x + 30 = 0.8xx - 4x
0.2xx - 7x + 30 = 0
xx - 35x + 150 = 0
x1 = 5, x2 = 30
Из 5-литрового сосуда нельзя отлить 6 л., означает, единственный ответ - x = 30.

Проверка.
Было 30 л спирта. Отлили 6, осталось 24. Добавили 6 л воды - стало 30 л консистенции. Концентрация спирта: 24/30 = 80%.
Отлили 5 л консистенции, в которую попало 0.8*5 = 4 л спирта и 1 л воды.
Осталось в сосуде 25 л., из которых 20 л. спирта и 5 л. воды, т.е. те же 80% спирта.