My brother hates to wear/wearing formal clothes

Если я верно понял, то в данном задании необходимо избрать верный вариант или to wear

либо wearing.

Глаголы с  -инговым окончанием (-ing) в истинном времени употребляются для обозначения совершения какого-либо деяния в истинный момент ( сейчас). И при их употреблении возникает глагол-вязка to be (am, are, is). Поэтому данное предложение не имеет права на существование.

Правильным вариантом будет: My brother hates to wear formal clothes. - Мой брат терпеть не может носить формальную одежку

Как мы видим тут употребляется 2 глагола: 1-ый (hates) спрягается, а второй стоит в форме инфинитива ( to wear)