明代崇禎四年（1631年）由高晉卿等三個太監出資在東磊圍屏山前興建延福觀。從此東磊便成為云臺山一帶道教的主要基地，三四百年間香火旺盛，甚至連圍屏山也賦予了一個道教的名稱鐘鼎，山上所有的景點都染有濃重的道教色彩。 　　就連周圍景觀也與道教的宗教色彩有關。玉女為道教中的女神，善于彈琴和做游戲，很像西方神話中的藝術女神。云臺山就有許多關于玉女的景點，如花果山的玉女峰，宿城的玉女窗等。 　　延福觀東院原為玉蘭山房，把古玉蘭樹圍于院中。陶澍巡視云臺山時，對這里也進行過大修，并題楹聯一副于玉蘭山房：奇石似人花下立，仙人如鶴竹間來”。廟后有溫泉一池，隆冬不冰。周圍石壁上刻著許多前人的題勒，如錢泳的“登山觀?！保瑹o名氏的“小蓬萊”、“天上人間”，也都各具風韻，令人賞心悅目。