Довольно трудно будет найти альтернативу сложившемуся термину. Если попробовать, то как то-так. "Литературно" - ведущая или принимающая, правда крепко сомневаюсь, что это будет понятно как термин. Жаргонно - домашняя или хозяйская (что-то подобное слыхивано от "крутых" системщиков). Можно еще "мастер-система", но это двусмысленно, master-host лучше не трогать.
А чем все-таки плохо обычное ОС хоста или что-то подобное? Заказчик требует точности или обязательного перевода? Просто, если уж придираться по-настоящему, то ни "гостевая", ни какая еще операционка не прокатит из-за двусмысленности, хотя и используется сплошь и рядом. Только "ОС гостевой машины" и подобное. Поэтому "ОС хоста" представляется не только де-факто общепринятым, но и вполне разумным.
Да, забыл было. ПрграммаПрограмма (в т.ч. и гостевая ОС) выполняется НА машине, В среде ОС, и ПОД управлением ОС. Так что тут могут быть варианты.