在古代皇宮中，其實并沒有冷宮的實體建筑，因此冷宮并不是一個特定的宮室，但如果哪位妃嬪失寵，那麼她住的地方，就會被視為冷宮。比如最近比較有名的長春宮和儲秀宮，在當時都曾經充當過關押拘禁失寵妃嬪的場所，也曾算作是冷宮之一。
在古代冷宮中，最有名的就是安樂堂了，因為明孝宗就是在安樂堂這座冷宮中出生的。當時因為明憲宗專寵與萬貴妃，后宮內所有分寵的妃嬪一概遭到萬貴妃的打擊報復，其中宮中女史紀氏在得到明憲宗寵愛之后就被貶到安樂堂，她就是下一代皇帝明孝宗的生母。
冷宮一詞出現得很早，比如西漢時期的女詩人班婕妤就寫過一首關于冷宮的詩。這首詩叫做《怨歌行》，通過用一把團扇來自比，意思說這把團扇一門心思忠于皇帝愛護皇帝，最后皇帝也嫌棄團扇把它給撕掉扔了，充分表達一個后宮失寵女子的幽怨心情。
不過最開始，冷宮只存在于文學作品中，比如元曲或者小說里面。在明清時期，小說得到了大發展，而冷宮作為宮闈文學的一部分，開始在各類小說里面頻繁出沒，比如大家熟悉的《趙氏孤兒》《隋唐演義》《貍貓換太子》，都是明清小說時期形成的文學用法。
