На олимпиаде воспитанники обязаны были решить 10 задач. за каждую решённую

Возьмем количество правильно решенных задач за х, нерешенных - за у.
Всего было 10 задач:
х+у=10.
Выразим у через х:
у=10-х.
За все решенные задачи дали 5*х баллов. За нерешенные вычли -3*х.
Составим уравнение:
5*х-3*х=10.
2*х=10.
х=10/2=5 - решенных задач.
у=10-5=5 - нерешенных задач.
Проверим:
5*5-3*5=25-15=10 баллов.
Ответ: ученик решил 5 задач.