У Васи есть по 11 палочек длины 2, 3 и 4

как они могут отличаться друг от друга, если их 11 шт, а размеров всего 3?

Их по 11 штук каждого размера. Считайте, что отличаются они цветом.

1) Из 3 палочек длины 2. Это C(3, 11) = 11*10*9/6=165.
Ещё 165 из 3 палочек длины 3 и 165 из 3 палочек длины 4.
Всего 3*165=495 равносторонних треугольников.
2) Две палочки длины 2 и одна длины 3. Это 11*C(2, 11)=11*11*10/2=605.
3) Две длины 3 и одна длины 2. Это ещё 605.
4) Две длины 2 и одна длины 4 - треугольник не выходит.
5) Две длины 4 и одна длины 2. Это ещё 605.
6) Две длины 3 и одна длины 4. Это ещё 605.
7) Две длины 4 и одна длины 3. Это ещё 605.
8) Все различной длины - 2, 3 и 4. Это 11^3=1331.
Всего 495+605*5+1331=4851.