У Димы и Сережи было 12 рублей. Они покупали для себя по

х руб - было у Димы

12-х руб - было у Серёжи

х * 2/3 = (12-х) * 0,4

2х=14,4-1,2х

3,2х=14,4

х=4,5 (руб) - было у Димы

12-4,5=7,5 (руб) - было у Серёжи                                                                     

Пусть х рублей было у Димы, тогда у - у Серёги.

Составим уравнение:

х+у = 12

2/3х = 0,4у

у = 12-х

2/3х = 0,4*(12-х) 

2/3х = 4,8-0,4х

2/3х+0,4х = 4 8/10

2/3х+4/10х = 48/10

20/30х+12/30х = 48/10

32/30х = 48/10

16/15х = 24/5

х = 24/5:16/15

х = 24/5*15/16

х = 9/2

х = 4,5 (руб.)- было у Димы.

12-4,5 = 7,5 (руб.)- было у Серёжи.

2/3*4,5 = 0,4*7,5

3 = 3 

Ответ: 4,5 рубля было у Димы и 7,5 рубля - у Серёжи.