В олимпеаде участвовал 1 мальчишка и 1 девченка из 3-х пятых

Bo-первых, т.к. Виталик решил в два раза меньше, то его одноклассница - Вера, a сам Виталик решил 2 задачки.

Тогда Павлик и Коля решили:

25 - (5 + 4 + 3) - 2 = 25 - 12 - 2 = 11 (задач).

Один из их решил столько, сколько его одноклассница, a иной - в два раза больше. Тогда:

x + y = 3,
5 * x + 3 * y = 11,

где x и y - коэффициенты (1 либо 2).

Рассчитаем их:

x = 3 - y;
5 * (3 - y) + 3 * y = 11;
2 * y = 4;
y = 4/2 = 2.

Тогда Павлик решил 5 * 1 = 5 задач (как Алеся), a Коля - 3 * 2 = 6 (в два раза больше Нины).