Коля увидел что в первой пачке тетрадей в 5 раз меньше

Пусть в первой пачке х тетрадей, а во второй у тетрадей. Из условия задачи мы знаем, что Коля увидел, что в первой пачке тетрадей в 5 раз меньше чем во 2-ой. Таким образом получаем выражение :

х=у/5

Так же мы знаем, что Оля сказала, что в первой пачке на 20 тетрадей меньше чем во 2-ой. Получаем выражение:

х=у-20

Составим систему уравнений:

х=у/5
х=у-20

Видим, что в данной системе левые доли уравнений равны, означает мы можем приравнять их правые доли.

у/5=у-20

Выразим у:

у=5*(у-20)
у=5у-100
у-5у=-100
5у-у=100
4у=100
у=100/4
у=25

Тогда х:

х=у-20=25-20=5

Ответ: в первой стопке 5 тетрадей, во 2-ой 25 тетрадей