рожь, имеющую пигмент антоциан,скрестили с неизвестной формой в потомстве получено 36

Это биллогия

Наблюдаем расщепление потомства по фенотипу 36 : 12, что подходит 3 : 1 (2-ой закон Менделя), соответственно этому закону расщепление по генотипу будет 1АА :2Аа :1аа, такое расщепление потомства наблюдается у гетерозиготных родителей (Аа) по данному признаку.
Аа - это генотипы исходных растений. Так как растения с пигментом в потомстве преобладают, делаем вывод, что наличие пигмента антоциана - это доминантный признак. 

Если начальные растения будут иметь генотипы АА и аа, то их потомство будет единообразно и расщепления не будет.
Если начальные растения будут иметь  генотипы АА и Аа, то и в их  потомстве не будет наблюдаться расщепление.
Если начальные растения будут иметь генотипы Аа и аа, то в их потомстве наблюдается расщепление 1:1, что не подходит данным заявленными в задачке.

Соотношение фенотипов в потомстве 36:12=3:1.
Менделевское соотношение 3:1 проявляется при скрещивании гетерозиготных родительских генотипов Хх и Хх.

Хх - гаметы Х и х

генотип потомства:
         Х                     х
Х      ХХ                   Хх
х       Хх                   хх

фенотип потомства:
Хх - антоциановая форма 75%
хх - безантоциановая форма 25%

Хх:хх=3:1

Х - доминантный ген, наличие антоциана - доминантный признак
х - рецессивный ген, неимение антоциана - рецессивный признак