У если было 500 рублей. он купил 5 тетрадей и 20

Допустим, что один карандаш стоит х рублей.

Поскольку тетрадь в 5 раз дороже, ее стоимость будет одинакова: 5 * х.

Стоимость покупки 5 тетрадей равна:

5 * 5 * х = 25 * х.

Цена покупки 20 карандашей составит:

20 * х рублей.

Всего за покупку тетрадей и карандашей Коля платил:

25 * х + 20 * х = 45 * х рублей.

Из этого следует, что у него осталось:

500 - 45 * х рублей.

Ответ:

После покупки у Коли осталось 500 - 45 * х рублей.