Форма переждя́ нечасто, конечно же, но используется. И звучит, мне кажется, звучит...
Другое дело — является ли правильной?
I. Присутствует она у А. А. Зализняка (полная акцентуированная парадигма: см. здесь и здесь).
II. Вот что о ней (о таких деепричастиях) говорится в справочнике по правописанию, произношению, литературному редактированию:
4. В парах высунув — высуня (ср.: бежать высуня язык); положив — положа (ср.: положа руку на сердце), разинув — разиня (ср.: слушать разиня рот), скрепив — скрепя (ср.: согласиться скрепя сердце), сломив — сломя (ср.: броситься сломя голову), спустив — спустя (ср.: работать спустя рукава) и т. п. вторые формы являются устарелыми, но сохраняются в устойчивых фразеологических выражениях.
III. Вы правы, есть она в поэтическом корпусе:
Лучше так вот шагать всю жизнь,
Чем, грозу переждя,
Вслед за теми послушно плестись,
Кто прячется от дождя.
[Б. А. Богатков. Сквозь ливень («Мелькнули молнии несколько раз…») (1940)]
В действительности же стихотворение имеет такой вид (это говорит о том, что не нужно слепо цитировать Нацкорпус; я всегда проверяю):
Лучше так вот шагать всю жизнь,
Чем, грозу переждя,
Вслед за теми послушно плестись,
Кто прошел сквозь стрелы дождя
И не видит душою праздною,
Как во всей красоте и силе
Сверкает и свищет полотнище красное,
Омытое ливнем от будничной пыли.
Есть и другие известные поэты, использующие "переждя".
Осень, ветровая и рябая,
явится, немного переждя,
по сгоревшим листьям барабаня
нахлыстом ядреного дождя.
Н. М. Якушев. На исходе северное лето...
Увидишь, тучу переждя,
Как полетит с ограды птица,
И с каплей сладкого дождя
Слеза твоя ко мне скатится.
Исай Шейнис. Лети, душа
IV. Устарелая это форма, особенная, но право на использование, думаю, она имеет — в особых контекстах, конечно, не каждодневно.
Формы деепричастий
Им не воздвигли мраморной плиты. Стихи поэтов, погибших на войне