как обосновать, что площади подобных треугольников одинаковы коэффициенту подобия в квадрате?

Это ж как коэффициент подобия безразмерная величина :) Может отношение площадей одинаково коэффициенту подобия.

Просто. площадь треугольника равна (a*b*sinC)/2. коэфициент подобия к. тогда: осмотрим  2 сходственных треугольника: 1-ый со гранями х и у тогда его площадь s1=(ху*sinC)/2, по формуле, а у второго треугольника по подобию стороны одинаковы к*х и к*у, так как углы у подобных треугольников схожи, а поэтому синусы тоже, то площадь s2=(k*x*k*y*sinC)/2 вновь-таки по формуле, теперь узнаём соотношение s1/s2=(k*x*k*y)/xy(двойки и синусы самосократились) и получаем k к в квадрате