Папе и отпрыску совместно 40 лет, отпрыску и матери 36 лет,

Обозначим возраст каждого члена семьи неведомыми:
а возраст отца,
b возраст сына,
с возраст мамы.
Запишем соотношения:
a+b=40,
b+c=36,
a+c=60,
Выразим а и b через с:
a=60-c,
b=36-c,
Подставим в первое уравнение вместо а и b приобретенные уравнения:
(60-c)+(36-c)=40,
Решим уравнение с одним неведомым:
60-c+36-c=40,
60+36-c-c=40,
96-2c=40,
96-40=2c,
2c=56,
c=28,
a=60-c=60-28=32,
b=36-28=8.
Ответ: папе 32 года, отпрыску 8 лет, а матери 28 лет.