Bộ máy chính quyền địa phương được thiết lập theo quy định của Hiến pháp, mỗi lần Hiến pháp thay đổi chính quyền Hà Nội cũng có sự thay đổi. Qua bốn bản Hiến pháp: 1946, 1959, 1980 và 1992 (sửa đổi), chính quyền thành phố Hà Nội được khái quát như sau:
Giai đoạn từ 1945 đến 1959
Tổ chức và hoạt động của chính quyền thành phố Hà Nội trong giai đoạn từ 1945 đến 1959 được quy định trong hệ thống các văn bản pháp luật:
Hiến pháp năm 1946; Sắc lệnh số 63 ngày 22/11/1945 của Chủ tịch Chính phủ Việt Nam Dân chủ Cộng hoà; Sắc lệnh số 77 ngày 21/12/1945 của Chủ tịch Chính phủ Việt Nam Dân chủ Cộng hoà; Luật Tổ chức chính quyền địa phương (1958).
Ngay sau khởi nghĩa giành được chính quyền về tay nhân dân, ngày 30/8/1945, Uỷ ban hành chính thành phố Hà Nội được thành lập. Tháng 10/1945, nội thành được chia là 47 khu phố, ngoại thành có 118 làng. Các khu phố có Uỷ ban hành chính. Tháng 12/1945, nội thành sáp nhập 47 khu phố thành 17 khu phố: Trúc Bạch, Đồng Xuân, Đông Kinh, Nghĩa Thục, Hoàn Kiếm, Văn Miếu, Quán Sứ, Bạch Mai, Đại học, Chợ Hôm, Thăng Long, Đông Thành, Lò Đúc, Hồng Hà, Long Biên, Đồng Nhân, Vạn Thái, Đông Mác. Các làng ngoại thành gộp lại thành 5 khu hành chính ngoại thành: Lãng Bạc, Đại La, Đống Đa, Đề Thám, Mê Linh.
Ngày 10-3-1946, bầu cử HĐND thành phố lần đầu tiên; ngày 16-6- 1946, bầu cử Uỷ ban hành chính 17 khu phố và đến ngày 30/6/1946, bầu cử Uỷ ban hành chính các làng ở ngoại thành.
Tháng 12-1946, Hà Nội thành lập Uỷ ban kháng chiến Hà Nội. Do Pháp chiếm lại Hà Nội nên chính quyền cách mạng phải rút ra vùng tự do. Tháng 3,4/1947 chính quyền và đoàn thể trở lại để tổ chức bộ máy hành chính và kháng chiến. Để tập trung thống nhất các nhiệm vụ quản lý nội bộ trong hoàn cảnh chiến tranh, tháng 10/1947, Uỷ ban kháng chiến và Uỷ ban hành chính Hà Nội được hợp nhất thành Uỷ ban kháng chiến - Hành chính Hà Nội.
Sau ngày giải phóng Thủ đô (10/10/1954), ngày 4/11/1954 Uỷ ban hành chính Hà Nội được thành lập. Khi đó, Hà Nội gồm 04 quận, 34 khu phố và 4 huyện ngoại thành, mỗi cấp đều có Uỷ ban hành chính.
Ngày 24/11/1957, bầu cử HĐND thành phố khoá I tiếp đó bầu Uỷ ban hành chính. Các đơn vị hành chính gồm 8 quận (cả nội thành và ngoại thành). Tháng 3/1958, bỏ cấp quận ở nội thành và gộp một số khu phố lại thành 12 khu phố. Năm 1959, nội thành chia lại thành 8 khu phố, ngoại thành vẫn giữ nguyên 4 huyện.
Nhìn chung tổ chức và hoạt động của chính quyền thành phố giai đoạn 1946 - 1959 là đơn giản. Trong giai đoạn này, do chiến tranh chống Pháp nên nhiệm vụ được chính quyền thành phố tập trung chú trọng là tổ chức kháng chiến và giữ gìn an ninh chính trị.
Giai đoạn từ 1960 đến 1980
Hiến pháp năm 1959; Luật Tổ chức Hội đồng nhân dân và Uỷ ban hành chính các cấp (1962).
Năm 1961, thành phố Hà Nội được tổ chức thành 4 khu phố: Hoàn Kiếm, Ba Đình, Hai Bà Trưng, Đống Đa; ngoại thành được lập thành 4 huyện; Từ Liêm, Thanh Trì, Đông Anh, Gia Lâm.
Giai đoạn 1960 - 1980, chính quyền thành phố được chia thành 03 cấp hành chính: Thành phố, Khu phố và Khối phố (từ năm 1974 đổi tên gọi khối phố thành Tiểu khu tại các khu phố), xã, thị trấn (tại các huyện).
Trên cơ sở Hiến pháp 1959, các cấp hành chính đều thành lập HĐND và Uỷ ban hành chính.
Tại kỳ họp thứ nhất, Quốc hội khoá VI (tháng 7/1975) đã thống nhất đổi tên gọi chính quyền các cấp từ Uỷ ban hành chính thành UBND.
Nhiệm vụ trọng tâm của chính quyền thành phố trong giai đoạn 1960 - 1980 là lãnh đạo, huy động các nguồn lực chi viện cho miền Nam đánh Mỹ; tổ chức chống chiến tranh đánh phá của đế quốc Mỹ đối với Thủ đô; sau khi đất nước thống nhất, Thành phố tập trung khôi phục và phát triển sản xuất theo cơ chế quản lý kinh tế kế hoạch hoá tập trung, cùng cả nước xây dựng và phát triển mô hình tập thể XHCN.
Giai đoạn từ 1980 đến 1992
Hiến pháp năm 1980 thay thế Hiến pháp năm 1959; Luật Tổ chức HĐND và UBND năm 1983; Luật Tổ chức HĐND và UBND năm 1989 được ban hành sửa đổ, bổ sung quy định tổ chức và hoạt động của chính quyền địa phương.
Chính quyền thành phố Hà Nội tổ chức theo 03 cấp đơn vị hành chính: Thành phố; Quận, huyện; Phường, xã. Trong đó mỗi cấp chính quyền nêu trên đều thành lập HĐND và UBND.
Giai đoạn 1980 - 1992 là giai đoạn Hà Nội nói riêng và cả nước nói chung gặp rất nhiều khó khăn. Cuộc chiến tranh chống xâm lược phía Bắc và
biên giới Tây Nam diễn ra khốc liệt; Nền kinh tế vận hành theo cơ chế tập trung, bao cấp kéo dài đã làm cho nền kinh tế lâm vào khủng hoảng. Chính quyền thành phố vẫn kiên định đường lối lãnh đạo của Trung ương, giữ vững ổn định chính trị, lãnh đạo nhân dân hoàn thành tốt các nhiệm Chính phủ giao.
Giai đoạn từ 1992 đến nay
Hiến pháp năm 1992 (sửa đổi) thay thế Hiếp pháp năm 1980; Luật Tổ chức HĐND và UBND năm 1994 (sửa đổi); Luật Tổ chức HĐND và UBND năm 2003 là cơ sở pháp lý vững chắc cho tổ chức và hoạt động của chính quyền Thành phố.
Về cơ bản, tổ chức của chính quyền thành phố Hà Nội từ năm 1992 đến nay giống như giai đoạn 1980-1992: Chính quyền được tổ chức theo 03 cấp và tại mỗi cấp đều thành lập HĐND và UBND.
Từ năm 1992 đến nay, địa giới hành chính Hà Nội đã có nhiều lần thay đổi, chia tách; do vậy tổ chức chính quyền cũng thay đổi. Sau những thay đổi về địa giới và hành chính năm 2008, Hà Nội hiện có 29 đơn vị hành chính cấp quận (gồm 10 quận, 18 huyện, 1 thị xã) và 577 đơn vị hành chính cấp xã, phường (gồm 401 xã, 154 phường và 22 thị trấn).