Шар массой 100 г двигаясь прямолинейно со скоростью 6м/с , настигает

В этом условии не хватает 1-го значения (массы второго шара). Может вы пропустили это значение. Если представить что масса второго шара 400г, то задачу можно решить последующим образом:

По закону сохранения импульса:

m1 v1  + m2 v2 = (m1 +m2) U

Нужно найти U - общую скорость, после взаимодействия.

            m1 v1 + m2 v2    

U =     ------------------------

                m1 + m2  

             0.1 * 6 + 0.4 *1

U =     -----------------------   =  2 м/с

                  0.1 +0.4