Соучастники команды пожали руки иной команде, и в итоге вышло 156

Ошибка в том, что не надобно разделять на два выражение х * (х - 1);

Каждый из х общего числа соучастников 2-ух команд сделал (х - 1) рукопожатие. 

Т.к. всего х участников, то общее число рукопожатий х * (х - 1);

х * (х - 1) = 156;

Х² - х = 156;

Х² - х - 156 = 0;

Д = 1 + 4 * 156 = 1 + 624 = 625;

Х₁ = 1 + 625 = 1 + 5 = 26;

Х₂ = 1 - 625 = 1 - 25 = -24 не является ответом, так как число соучастников не может быть отрицательным;