Как проверить "ь" в слове мальчишка?

Можно объяснить это с фонетической точки зрения. Слово "мальчишка"  вышло от слова "малый".  То есть этимологически существует основа, от которой слово образовано - "мал-" и суффикс "-чик". Согласная, стоящая перед  мягким звуком [ ч' ] время от времени тоже смягчается (процесс ассимиляции). Потому для удобства произношения исторически сложилось, что тут и стоит мягкий знак. То есть этот фонетический процесс получил свое отражение и на письме