Похоже, возможно и так и так. Вот какие варианты "и Боже мой" удалось найти в Нацкорпусе:
- и, Боже мой,
- и Боже мой,
- и — Боже мой! —
Например:
Дожидаясь поезда, мы стояли, озябшие, усталые, грязные, на зашарканной платформе, когда к брату подошел худенький черненький солдатик в папахе с красной ленточкой, в длинной, не по росту, шинели, и сказал негромко: ― Идите за мной. Чекисты, дежурившие на станции, заинтересовались братом ― может быть, потому, что он действительно походил на офицера со своей плечистостью, твердой осанкой и манерой держать голову по-военному прямо? Он ушел с солдатом, я остался один ― и Боже мой, каким подавленным, испуганным, одиноким почувствовал я себя на этой продутой ледяным ветром платформе!
[В. А. Каверин. Освещенные окна (1974-1976)]
Каждая строчка об оставшихся близких была матери нужна, важна, необходима, письма перечитывались, читались вслух, и Боже мой, сколько делалось попыток заинтересовать меня этими письмами, заставить оценить эпистолярный стиль бабушки ― мать неизменно им восхищалась… [Н. И. Ильина. Дороги и судьбы (1957-1985)]
Возможно, это не всегда воспринимается как обращение.