в тех коробках лежат 12 карандашей количество карандашей в 3 коробке

Если в 3-ей коробке лежит 4 карандаша, то сумма карандашей, лежащих в 1-ой и во 2-ой коробках равна:
12-4=8 карандашей.

Из условия количество карандашей в 3-ей коробке меньше, чем в 1-ой, но больше, чем во 2-ой. Исходя из этого необходимо число 8 представить в виде суммы двух целых чисел, причём одно число из их больше 4, а 2-ое - меньше 4. Такому условию удовлетворяют числа 5 и 3. Как следует получаем, что в 1-ой коробке 5 карандашей, а во 2-ой 3 карандаша.

Ответ: 1-ая коробка - 5 карандашей, 2-аякоробка - 3 карандаша, 3-ья коробка - 4 карандаша.

Если 3яя коробка=4кар и по кол-ву больше,чем во 2ой,то 2-ая коробка содержит 3,2 либо 1 карандаш(и даже 0!!!)
варианты
1к-5. 2к-3, 3к-4;
1к-6, 2к-2, 3к-4;
1к-7, 2к-1, 3к-4;
и нельзя не учесть,что 0 меньше 4,соответственно 1к-8,2к-0,3к-4