Trong lịch sử nhân loại, tư tưởng về nhà nước pháp quyền đã có từ rất lâu, ra đời sớm trong các học thuyết triết học, pháp luật của các nhà tư tưởng cổ đại Hy Lạp, La Mã như Pla-tôn, A-ri-xtốt. Nhưng phải đến thời kỳ cách mạng tư sản thế kỷ XVII - XIX ở Tây Âu, vấn đề Nhà nước pháp quyền mới được đi sâu nghiên cứu trong các học thuyết triết học, pháp luật, nhà nước của các nhà tư tưởng tư sản như G. Lốc-cơ, S.L. Mông-te-xki-ơ, J.J. Rút-xô, E. Can-tơ, G.V. Ph. Hê-ghen... nhằm phục vụ cho việc hình thành, xây dựng nhà nước pháp quyền tư sản. Từ đó đến nay, lý luận về nhà nước pháp quyền đã được quan tâm nghiên cứu, ngày càng phát triển cùng với sự phát triển tiến bộ xã hội, nó là thành quả của văn minh nhân loại.
Ở các nước xã hội chủ nghĩa, vấn đề xây dựng nhà nước pháp quyền xã hội chủ nghĩa mới được chính thức đặt ra trong thời kỳ cải tổ, cải cách, đổi mới. Trước đó, sở dĩ khơng đặt ra vì một mặt do đem đồng nhất nhà nước pháp quyền nói chung với nhà nước tư sản, cho rằng nhà nước pháp quyền chính là nhà nước pháp quyền tư sản; mặt khác, do đem đối lập sự lãnh đạo của Đảng với nhà nước pháp quyền (trong đó có một nguyên tắc, một đặc trưng của nhà nước pháp quyền là vai trò tối thượng của pháp luật).
Ở nước ta, Chủ tịch Hồ Chí Minh đã đề cập rất sớm tư tưởng về "phải có thần linh pháp quyền" trong bài "Việt Nam yêu cầu ca" . Tuy nhiên, trong các Văn kiện của Đảng từ khi giành được chính quyền đến Đại hội VII (1991), vấn đề xây dựng Nhà nước pháp quyền xã hội chủ nghĩa chưa được
chính thức đặt ra. Sở dĩ như vậy, bởi vì thời kỳ đó chúng ta chưa quan tâm và chưa đi sâu nghiên cứu vấn đề nhà nước pháp quyền, mặt khác do chịu ảnh hưởng quan điểm sai lầm về Nhà nước pháp quyền của các nước xã hội chủ nghĩa anh em thời bấy giờ. Phải đến Hội nghị đại biểu giữa nhiệm kỳ khóa VII của Đảng ta, lần đầu tiên khái niệm Nhà nước pháp quyền xã hội chủ nghĩa của dân, do dân, vì dân mới chính thức đặt ra và đưa vào Văn kiện. Tuy nhiên, sau đó, trong Nghị quyết Trung ương 8, khóa VII về xây dựng Nhà nước, cũng như trong Văn kiện Đại hội VIII, vấn đề xây dựng Nhà nước pháp quyền, được đề cập không nhiều. Phải đến Đại hội IX của Đảng, vấn đề xây dựng Nhà nước pháp quyền xã hội chủ nghĩa của dân, do dân, vì dân mới được khẳng định dứt khốt trong Văn kiện và trở thành một quan điểm chỉ đạo xây dựng Nhà nước ta và sau đó được đưa vào Hiến pháp 1992 (sửa đổi).
Sở dĩ có tình hình trên đây, bởi vì trong nhận thức của cán bộ, đảng viên còn chưa rõ, chưa thống nhất về bản chất, đặc trưng, nguyên tắc của Nhà nước pháp quyền xã hội chủ nghĩa, về quan hệ giữa vai trò lãnh đạo của Đảng với yêu cầu của Nhà nước pháp quyền xã hội chủ nghĩa. Từ đó, đã đem đối lập vai trò lãnh đạo của Đảng với Nhà nước pháp quyền xã hội chủ nghĩa và cho rằng, nếu chủ trương xây dựng Nhà nước pháp quyền xã hội chủ nghĩa, vơ hình trung sẽ hạ thấp vai trị lãnh đạo của Đảng, đặt Đảng dưới pháp luật.
Một đặc trưng, một nguyên tắc cơ bản nhất của của Nhà nước pháp quyền xã hội chủ nghĩa là nhà nước và cơng dân đều phải thừa nhận tính tối cao của pháp luật (chủ yếu là Hiến pháp và các đạo luật). Đảng và cán bộ, đảng viên phải hoạt động trong khuôn khổ của Hiến pháp và pháp luật. Song, pháp luật ở nước ta, như chúng ta biết, là thể hiện ý chí của giai cấp thống trị, là thể chế hóa đường lối, chủ trương của Đảng cầm quyền, là phản ánh ý nguyện của nhân dân. Vì vậy, đề cao pháp luật cũng tức là đề cao
đường lối, quan điểm, chủ trương của Đảng. Ở đây khơng có sự đối lập giữa pháp luật với sự lãnh đạo của Đảng (trong thực tế trên một số trường hợp cụ thể, có thể nảy sinh vấn đề cần phải giải quyết khi pháp luật không thay đổi kịp theo quan điểm của Đảng). Mặt khác, chính bản thân Đảng cũng yêu cầu Đảng và cán bộ, đảng viên phải hoạt động trong khuôn khổ của Hiến pháp và pháp luật, sau khi Hiến pháp và pháp luật ra đời, đảng viên phải nghiêm chỉnh chấp hành, phải tôn trọng Hiến pháp và pháp luật, chấp hành pháp luật cũng tức là chấp hành đường lối của Đảng, sự lãnh đạo của Đảng. Do đó, khi nói rằng, xây dựng Nhà nước pháp quyền xã hội chủ nghĩa thì ở đó đã bao hàm sự thừa nhận vai trò lãnh đạo của Đảng Cộng sản đối với Nhà nước pháp quyền, bởi vì nếu khơng có sự lãnh đạo, khơng dưới sự lãnh đạo của Đảng Cộng sản thì Nhà nước khơng phải là Nhà nước pháp quyền xã hội chủ nghĩa, khơng phải là Nhà nước của dân, do dân, vì dân thực sự. Vì đây cũng chính là một đặc trưng cơ bản của Nhà nước pháp quyền xã hội chủ nghĩa.