Бараш желал купить 5 тетрадок но ему не хватило 20 рублей

Обретаем разницу тетрадей.
5 - 3 = 2 тетради.

Находим стоимость 2-ух тетрадей.
Для этого суммируем недостающую сумму при покупке 5 тетрадей и сумму остатка при покупке 3 тетрадей.
Получим:
20 + 4 = 24 рубля.

Находим цена одной тетради.
Для этого делим полученную сумму на разницу количества тетрадей.
24 / 2 = 12 рублей (Стоит 1 тетрадь).
Обретаем стоимость 3 тетрадей.
3 * 12 = 36 рублей.

Находим сумму средств которая была у Бараша.
36 + 4 = 40 рублей.

Ответ.
У Бараша было 40 рублей.