какой опыт показывает, что частички вещества очень малы? 

Опытов много. Расскажу об опыте, который может провести каждый. Берем и отмеряем (пробиркой) 1 кубический сантиметр масла и выливаем его в воду. Масло не растворяется в воде, а разливается по поверхности воды. Выждав некое время, пока масло не разольется так, что бы толщина слоя масла станет равным одной молекуле. Сейчас измерим площадь пятна в сантиметрах, к примеру, и разделив объем масла (1 см в кубе) на площадь получим размер молекулы. Вы увидите, что он оооочень маленький. При этом учтите, молекула масла органическая, то есть большая. У обычных веществ, одноатомных молекул еще меньше.