чтоб вымыть посуду мальчишка налил в таз 3 литра воды температура

Кипяток обязан остыть со 100 до 50, т. е на 50 градусов. Прохладная вода должна согреться с 10 до 50, т. е на 40 градусов. Принимая, что удельная теплоемкость не зависит от температуры, получаем, что массы (объемы) холодной воды и кипяточка обязаны быть в соотношении 5:4, т. е объем кипяточка должен составлять 4/5 от объема холодной воды, т. е 3*0,8=2,4 л.
Если решать "верно", т. е по формулам, то необходимо использовать уравнение: m*c*(50-10)=M*C*(100-50), где малюсенькие буквы относятся к холодной воде, великие - к кипятку, m, M - массы, с, С - теплоемкости, принимаем, что с=С и они сокращаются, выходит М=m*(50-10)/(100-50)=0.8*m.