У Сережи в коллекции в 3 раза меньше марок, чем у

Серёжа X 
Вася 3Х 
Андрей 6Х 
У андрея было н 80 марок больше 
6X-x=80 
X=16 
Серёжа 16 
Вася 48 
Андрей 96

Пусть х марок - у Серёжи, тогда 3х марок - у Васи, а 6х марок - у Андрея. Ещё у Андрея было на 80 марок больше, чем у Серёжи.

Сочиняем уравнение:

х+80=6х

6х-х=80

5х=80

х=80:5

х=16(м.) - у Серёжи.

3х=3*16=48(м.) - у Васи.

6х=4*16=96(м.) - у Андрея.

Ответ: У Серёжи 16 марок в коллекции, у Васи - 48 марок, а у Андрея 96 марок.