В первой и 2-ой группе 96 человек, во 2-ой и третьей

Примем за x,y,z количество людей 1-ой, 2-ой и 3-ей группе соответственно, тогда получаем систему из 3-х уравнений:
x+y=96
y+z=156
x+z=132
Выразим z из третьего уравнения:
z=132-x
и подставим во 2-ое:
y+132-x=156
y-x=24
выразим из него y:
y=24+x
подставим в 1-ое:
x+24+x=96
2x=96-24=72
x=72/2=36

Тогда :
y=24+36=60
z=132-60=72

Один момент!
Вы решили неправильно. Точнее, не до конца верно.
Правильнее, после того как нашли х, решать эти три уровнении.
То бишь, если мы нашли, что х=36, то далее обретаем У.
Х+У=96
У=96-36=60
Потом Z
У+Z=156
Z=156-,У
Z=156-60
Z=90
Тогда все выходит правильно.
То бишь, Z не может быть одинаково 72, как вы писали.
Но в любом случае спасибо!