Про гены, если коротко, примерно так:
Пока широкий размах рогов дает какие-то преимущества (оленихам нравится, или проще добраться до самых питательных ростков и т.п.) - рога будут становиться шире и шире. Как только ширина рогов перестает давать преимущества - она устаканивается, потому что выращивать рога требует от организма питательных веществ и энергии, которые можно пустить на что-нибудь другое, более полезное. Когда она начинает мешать - скажем, вот этим самым ископаемым оленям, когда изменилась их среда обитания с тундры на лес, по которому с такими рогами не погуляешь - то, если не случится мутации, которая позволит уменьшить рога, вид вымрет. Как, собственно, и произошло. Единица эволюции - это популяция, а не индивидуум. Верить в эволюцию индивидуума - ламаркизм. А у нас уже не 18 век на дворе.
Но гены - это величина отнюдь не постоянная, а переменная. Они могут включаться и отключаться под действием разных факторов, далеко не все из которых изучены, и кодируют не конкретные черты, а белки, которые тоже много с чем взаимодействуют.
Рассмотрим на примере роста человека. Например, мой рост - 176,5 см. Это не значит, что если сделать анализ моего генома, где-то будет ген с кодом "рост = 176,5 см". По последним данным, более 400!!! регионов в геноме регулируют рост отдельно взятого человека. При этом от генов зависит где-то 80%, а от окружающей среды - 20%. Т.е. если бы меня в детстве и юности морили голодом, вероятно, я бы была не 176,5 ростом, а где-то 150 см.
Насчет баланса генов-среды в размахе оленьих рогов я не знаю, я не зоолог, я из животных детально изучала только паразитических червей, и то не с точки зрения их эпигенетики.

Но подозреваю что зависит от количества кальция в диете, качества питания вообще, общие стрессовые факторы запросто могут влиять...
В общем и целом получаем, что ширина оленьих рогов ограничена биологической целесообразностью с одной стороны и качеством питания с другой стороны.