в поход пошли 20 человек : мужчины , дамы и детки.

Пусть х парней вульгарно в поход, у дам и (20-х-у)малышей.
Каждый мужчина нес 20 кг багажа, дама 5 кг и ребенок 3 кг. Всего 137 кг.
Составим уравнение
20х+ 5у + 3(20-х-у)=137,
20х+5у+60-3х-3у=137,
17х+2у=77.
Получили уравнение с 2-мя переменными, которое надо решить в натуральных числах. х и у - не может быть отрицательным либо дробным.

Решение проверяем подбором:  17х=77-2у
если у=1, то справа получим 75. 75 не делится на 17. означает у=1 не подходит,
у=2, справа 71, 71 не делится на 17
и так дальше
у=13, справа 77-26=51. 51 делится на 17 получим 3
Ответ х=3 (парней), у=13(дам), 20-3-13=4 детей.
проверка: 203+513+34=137 кг груза.