宰相制度廢除于明朝的洪武年間，也就是明太祖朱元璋在位期間。明朝初年，宰相胡惟庸結交朋黨，打擊異己，導致其權傾朝野，擅權獨攬，朱元璋深感宰相權利之大，乃至皇權受到威脅，隨后胡惟庸案爆發，朱元璋借此案廢除一千五百余年的宰相制度。
在中國的封建制度體系中，宰相制度是聯接皇帝制度和官僚制度的重要因素。自先秦萌芽以來，經過不斷的發展演變，綿延了近一千多年。對中國封建社會的穩定與發展都作出了重要貢獻。
在有關先秦史料中，我們看到的“令尹”實際上就是宰相，秦統一后，國家變大，事務增多，皇帝一個人很難處理紛繁復雜的國是，所以繼續沿用先秦已經萌芽的宰相制度，并極力推崇，發展。宰相在協助皇帝處理國家日常事務以及職領百官方面，可以說發揮了極大的作用。
但是，隨著宰相制度的發展，宰相的權力日益膨脹，發生了皇權的爭奪。所以，在魏晉南北朝時期，初步形成了中書、門下、尚書三省，三省制度在隋唐時期發展到頂峰。中書省起草的詔召制救，要經門下省審議，門下省有權駁還詔書或封還詔書。尚書省是最高執行機關，“總領百官，庶務皆會而之”。三省長官都是宰相，這就使與皇權相爭的相權一分為三，削弱了對皇權的威脅，最終促進了整個封建官僚制度和封建政權的穩定。
宋代以后，宰相制度進一步衰落，明代初年，出現了宰相專權，經過胡惟庸案后，朱元璋徹底廢除了宰相，代之以六部。六部直接對皇帝負責。
