Trước hết là do nhận thức chưa đúng đắn và thống nhất về vai trò giám sát của Quốc hội.
Trong thực tế vẫn còn nhận thức cho rằng, trong điều kiện một Đảng cầm quyền, không có sự đối lập như nước ta thì việc Quốc hội tiến hành hoạt động giám sát được không ít quan chức coi là làm khó cho các cơ quan Nhà nước khác; Quốc hội ít “ thông cảm”, “gây căng thẳng” hoặc chưa đặt mình vào vị trí của những người bị giám sát, đánh giá, chất vấn. những quan điểm như thế khiến cho việc giám sát của Quốc hội không được triển khai một cách đồng bộ và đôi khi còn dè dặt nể nang.
Do chưa có sự rõ ràng thống nhất quan điểm về vị trí, vai trò giám sát tối cao cũng như phạm vi đối tượng giám sát của Quốc hội nên đã dẫn đến tình trạng lúng túng, không nhất quán, chồng chéo trong triển khai hoạt động giám sát, các lĩnh vực giám sát nhiều khi tràn lan, thiếu trọng điểm. Có ý kiến thì cho rằng Quốc hội cần giám sát toàn bộ các hoạt động của cơ quan nhà nước từ trung ương đến địa phương, tất cả việc thi hành các văn bản quy phạm pháp luật do Quốc hội ban hành. Nhưng lại có ý kiến khác cho rằng Quốc hội chỉ nên dừng lại ở phạm vi giám sát hoạt động của Chính phủ và giám sát trách nhiệm tư lệnh ngành, lĩnh vực, giám sát hoạt động của tàon án nhân dân tối cao,viện kiểm sát nhân dân tối cao. Chính sự không thống nhất trong quan điểm đó khiến việc phối hợp chỉ đạo thống nhất là rất khó khăn. Mặt khác thì hệ quả giám sát của Quốc hội cũng chưa được nhận thức đúng là chỉ mang tính chính trị thông qua các hình thức xử lý như khen ngợi, phê phán hoặc đặt vấn đề tín nhiệm.
Thứ ba là cơ chế pháp lý về giám sát chưa hoàn thiện.
Sau một thời gian thực hiện từ năm 2003 đến nay, thực tế cho thấy rằng: một số quy định trong Luật về hoạt động giám sát của Quốc hội còn chung chung hoặc chưa thật phù hợp với thực tiễn, nhưng chưa được sửa đổi, bổ sung hoặc hướng dẫn kịp thời. Do đó về khía cạnh pháp lý đang đặt ra nhiều nội dung cần tiếp tục phải nghiên cứu và sửa đổi; bổ sung như: cần phải làm rõ một số khái niệm về giám sát của Quốc hội (như: phạm vi giám sát của Quốc hội, đối tượng và các công cụ giám sát cả Quốc hội đặc biệt là hệ quả giám sát của Quốc hội); thủ tục thực hiện việc bỏ phiếu tín nhiệm đói với các chức danh do Quốc hội bầu hoặc phê chuẩn, thủ tục để thành lập ủy ban điều tra, cơ chế tiếp thu giải quyết các kết luận, kiến nghị sau giám sát và cơ chế thực hiện các kiến nghị không được thực hiện.
Thứ tư là sự phân biệt giữa giám sát của Quốc hội với giám sát của các cơ quan chức năng chưa rõ ràng.
Do hoạt động giám sát của các cơ quan của Quốc hội chưa được phân biệt rõ với hoạt động kiểm sát của Viện kiểm sát cũng như hoạt động kiểm tra thanh tra của các cơ quan Chính phủ, nên thời gian qua có những lĩnh vực giám sát bị chồng chéo, hay trái lại, bị bỏ lửng, có sự chồng chéo về thẩm quyền, phạm vi, đối tượng và phương thức giám sát. Cơ chế giám sát và phối hợp giám sát giữa các cơ quan thực hiện chức năng giám sát trong đó Quốc hội giữ vị trí giám sát tối cao chưa được xây dựng một cách đồng bộ làm ảnh hưởng không nhỏ đến hiệu lực và hiệu quả giám sát và không tránh khỏi tình trạng chồng chéo, lấn sân.
Thứ năm là nguyên tắc tổ chức và phương thức hoạt động giám sát của các cơ quan Quốc hội chưa hợp lý
Ủy ban thường vụ Quốc hội: do các thành viên ủy ban thường vụ Quốc hội hiên nay đều đồng thời là lãnh đạo Quốc hội hoặc kiêm chủ nhiệm các Ủy ban của Quốc hội, các ban của Quốc hội, Văn phòng Quốc hội, phải thực hiện nhiều công việc khác nhau nên thời gian và năng lực giành cho hoạt động của ủy ban thường vụ Quốc hội tại các phiên họp dài khoảng 10 ngày hàng tháng là không nhiều, làm ảnh hưởng đến hiệu quả công việc cảu cả Ủy ban thường vụ Quốc hội và các ủy ban của Quốc hội. Hơn nữa, hoạt động của Ủy ban thường vụ Quốc hội được tổ chức theo hình thức làm việc theo chế độ tập thể và chưa có cơ chế hữu hiệu để có thể lắng nghe ý kiến của các chuyên gia, nghiên cứu các vấn đề để giám sát chuyên đề tại các phiên họp nên hiệu quả giám sát chưa cao.
Hội đồng dân tộc và các ủy ban của Quốc hội: Việc tổ chức hệ thống ủy ban của Quốc hội nước ta hiện nay chưa được thực hiện trên cơ sở một nguyên tắc rõ ràng. Điều này một mặt làm cho phạm vi phụ trách giữa các
ủy ban còn có sự đan xen, mặt khác chưa phủ hết các lĩnh vực của đời sống kinh tế xã hội gây không ít khó khăn trong việc xác định phạm vi, đối tượng giám sát. Cơ cấu thành viên của các ủy ban của các thành viên của Quốc hội còn có một tỷ lệ lớn các đại biểu Quốc hội kiêm nhiệm. Điều này dẫn đến một thực tế là hoạt động của các ủy ban chủ yếu dựa vào bộ phận thường trực làm ảnh hưởng đến nguyên tắc làm việc tập thể của ác ủy ban. Hình thức nghe ý kiến của các chuyên gia hoặc ghe điều trần tại các ủy ban liên quan đến các vấn đề đang được xem xét mới chỉ được một số ít các ủy ban áp dụng và theo cách thức chưa thống nhất. Điều này làm hạn chế tính chuyên môn trong các báo cáo thẩm tra luật cũng như trong các kiến nghị giám sát của các ủy ban
Thứ sáu là một số quy trình thủ tục giám sát chưa đầy đủ và thiếu tính khả thi
Thủ tục bỏ phiếu tín nhiệm các chức danh do Quôc hội bầu, phê chuẩn; hình thức hoạt động này còn chưa mang tính khả thi do luật chưa quy định cụ thể thủ tục để các đại biểu có thể làm thế nào có được số lượng ủng hộ là 20% qua các hình thức tự vận động thỏa thuận với các đại biểu khác cho đủ số lượng quy định. Thủ tục thành lập ủy ban điều tra của Quốc hội: thủ tục thành lập ủy ban lâm thời để tiến hành các hoạt động điều tra những kiến nghị của đại biểu về việc thành lập ủy ban điều tra phải qua 2 lần xem xét: tại ủy ban thường vụ Quốc hội (tại đây chủ thể kiến nghị ít có cơ hội trình bày kiến nghị của mình) và trước toàn thể Quốc hội trên cơ sở kiến nghị của Ủy ban thường vụ Quốc hôi. Như vậy khả năng kiến nghị của đại biểu trở thành hiện thực khá khó khăn. Một số quy định về chất vấn chưa rõ ràng: quy định pháp luật đối với hoạt động chất vấn chưa xác định rõ về giới hạn những lĩnh vực mà đại biểu được phép chất vấn, về quyền của bộ trưởng chỉ trả lời những vấn đề liên quan đến chính sách….
Một số đại biểu Quốc hội được bầu ra theo cơ chế cũ (luật cũ) chưa có đủ điều kiện để đảm đương công tác giám sát của Quốc hội trong công cuộc đỏi mới ở nước ta.