в образовательном учреждении обучение всего 42х человека из них 14х мальчишек

Складываем младшие разряды привычным образом: 4+3=7. Глядим младший разряд в ответе: 2. Но 2 меньше 7, следователь был перенос единицы в старший разряд, т.е. вышло число 12 по разыскиваемому основанию n.
Получаем простейшее уравнение:


Можно было и не сочинять уравнения, а отыскать разницу меж 12 и 7. Она равна 5 - это и есть основание системы. На самом деле, еще надо вычесть эту пятерку из 10, но когда выходит конкретно 5, этого можно не делать. Сначала кажется, что это решение какое-то путаное, но на самом деле оно несложное, только основано оно на вычетах, чего в школах обычно не затрагивают.

Ответ: в) 5

Сходственную задачку сейчас уже решал, но повторим:
1. Основание системы счисления не может быть меньше 5
2. Напишем уравнение и переведем его в десятичную систему счисления:
1*x+4*x+2*x+3*x = 4*x+2*x
3*x+7 = 4*x+2
x = 5
Ответ: вариант B, x = 5