Методом кинетического уравнения исследуется механизм излучения электромагнитных колебаний в цилиндрическом триоде с виртуальным катодом с расходящимся электронным пучком. Определены спектр и инкремент возбуждаемых колебаний, и получено выражение для эффективности излучения. Проведен анализ эффективности излучения от типа возбуждаемых колебаний и параметров системы. Показано, что в коаксиальном триоде преимущественно возбуждаются низшие типы колебаний. При этом наиболее эффективное возбуждение электромагнитных колебаний имеет место на ТЕМ-моде.