Актуальность. При проведении горных работ и образовании горных выработок, происходит изменение естественного напряженно-деформированного состояния окружающего выработку массива. В результате изменяется деформированное и напряженное состояние массивов породы в окрестности выработки, что может привести к ее обрушению. Эти напряжения существенно зависят от формы поперечного сечения выработки и вида дополнительных укреплений свода штольни. Таким образом, возможность предсказывать эти процессы, а тем более управлять ими, создавая оптимальные формы и виды укрепления сводов, может снизить вероятность разрушения штольни и повысить их надежность. Цель работы: моделирование и оптимизация формы выработок в виде длинных тоннелей, которые можно считать находящимися в условиях плоского деформированного состояния; проектирование оптимальной топологии несущей конструкции вокруг выработки для оптимальных форм сводов, воспринимающей основные нагрузки как от собственного веса, так и от веса вышележащей породы. Методы. Для математического моделирования поведения выработки используются методы конечных и граничных элементов для задач механики твердого деформируемого тела и методы оптимизации формы упругих тел, разработанные авторами. Для задач укрепления свода штолен применяется метод топологической оптимизации. Результаты. Созданы алгоритмы и программы оптимизации формы и топологической оптимизации для плоской задачи теории упругости. На примере модельной задачи показаны возможности оптимизации формы свода выработки и ее оптимального внешнего укрепления стальной конструкцией с целью снижения максимального касательного напряжения (критерий Треска), что позволило снизить эти напряжения на порядок.