У Пети были тетрадки по 12 и по 18 листов. Он

Решение 1.
Допустим, что Петя брал только 12-листовые тетрадки. Тогда у него обязано было оказаться 12*5=60 листов. Не хватает 18 листов. Любая 18-листовая тетрадка даёт дополнительных 6 листов по отношению к 12-листовой. Чтоб восполнить недочет листов, нам будет нужно поменять 3 12-листовых тетрадок на 3 18-листовых. Итого у нас получится 3 18-листовых тетрадки и 2 12-листовых.
Проверяем: 2*12+3*18 = 24+54 = 78.

Решение 2.
Обозначим число 12-листовых тетрадок за x, а число 18-листовых тетрадок за y.
Тогда x+y=5, т.к. Петя брал 5 тетрадок.
При этом к-во полученных листов Петей будет равно 12*x+18*y.
Приравняем это число 78.
12x+18y=78
6(2x+3y)=78
2x+3y=13

Т.к. x+y=5, то x=5-y.
2(5-y)+3y=13
10-2y+3y=13
y=3
x=2

Проверяем: 2*12+3*18 = 24+54 = 78.

Ответ: Петя взял две 12-листовых и 3 18-листовых тетрадки.