Коля увидел, что в первой пачке тетрадей в 5 раз меньше,

Возьмем количество тетрадей в первой пачке за х.
Тогда во 2-ой пачке, по словам Коли: 5 * х, так как в ней в 5 раз больше тетрадей;
По словам Оли: х + 20 ( на 20 больше, чем в первой).
Составим уравнение:
х + 5 * х = х + х + 20;
6 * х = 2 * х + 20;
6 * х - 2 * х = 20;
4 * х = 20;
х = 20 / 4 = 5 тетрадей в первой пачке;
5 * х = 5 * 5 = 25 тетрадей в другой пачке.
Проверим:
5 * 5 = 5 + 20;
25 = 25;
Ответ: в первой 5, во 2-ой 25.