Biến đổi về địa giới tất yếu kéo theo biến đổi về hành chính cho phù hợp để quản lí. Mặt khác, biến đổi của chế độ chính trị, tác động của chiến tranh và sự phát triển của kinh tế - xã hội cũng dẫn đến tổ chức hành chính của Hà Nội biến đổi phức tạp.
Tổ chức hành chính vốn có của tỉnh Hà Nội từ năm 1831 đứng đầu là tổng đốc cai quản 4 phủ. Năm 1832, Hà Nội có thêm 2 phân phủ. Dưới phủ và phân phủ là huyện, tổng, xã, thôn, phường, trại, sở. Năm 1851 - 1852, nhà Nguyễn bỏ 2 phân phủ, nhưng số huyện của Hà Nội vẫn là 15. Tháng 11 năm 1880, Tự Đức cho gộp 3 huyện Chương Đức, Hoài An (Hà Nội) và Mĩ Lương (Sơn Tây) thành đạo Mĩ Đức trực thuộc tỉnh Hà Nội. Tháng 2 năm 1887, Pháp sáp nhập bộ máy cai trị của tỉnh Hưng Yên vào tỉnh Hà Nội, đặt dưới quyền kiểm soát của Công sứ Hà Nội và Tổng đốc Hà - Yên (Hà - An). Năm 1888, nhà Nguyễn sáp nhập huyện Đan Phượng vào tỉnh Hà Nội. Năm 1890, nhà Nguyễn cắt một số huyện phía nam tỉnh Hà Nội hợp với một số huyện phía bắc của tỉnh Nam Đinh thành lập tỉnh Hà Nam. Tỉnh Hà Nội được gọi là tỉnh Cầu Đơ từ năm 1902, rồi tỉnh Hà Đông từ năm 1904.
Trong khi đó, thành phố Hà Nội đã từng bước ra đời từ tỉnh Hà Nội. Theo Hoà ước Giáp Tuất ngày 15 tháng 3 năm 1874, Pháp đặt tòa lãnh sự rộng 2,5 ha ở Đồn Thủy giáp đông nam thành Hà Nội. Ngày 25 tháng 8 năm 1883, triều đình Huế kí Hiệp ước Hácmăng, công nhận Pháp có quyền đặt Công sứ ở Hà Nội. Đến năm 1886, Pháp tự động lập Hội đồng tư vấn thành phố Hà Nội và Hải Phòng do Đốc lí chủ trì.
Ngày 8 tháng 4 năm Đồng Khánh 3 (1888), hai huyện Thọ Xương và Vĩnh Thuận được chia làm 6 khu (từ số 1 đến số 6), mỗi khu đặt các Chánh, Phó Thiên hộ để quản lí. Ngày 17 tháng 5 năm 1888, 6 khu được đổi thành 6 hộ. Sự cắt đặt này không theo
lệ Việt chia thành tổng mà theo kiểu Pháp chia thành khu - hộ phố, chuẩn bị cho việc Pháp lập thành phố Hà Nội trên Khu nhượng địa.
Ngày 19 tháng 7 năm 1888, Pháp lập thành phố Hà Nội là thành phố cấp 1 đứng đầu là Đốc Lí có quyền hành tương đương như Công sứ. Khi mới ra đời, thành phố Hà Nội chỉ có nội thành và được chia ra các phường, xã. Sau đó, Pháp chia các phố làm 4 loại và 4 hạng (1893 - 1894); rồi chia nội thành ra 8 khu phố (14/4/1897), 8 quận (1904), 8 khu (17/7/1914), 8 hộ (đầu những năm 20 của thế kỉ XX), 8 quận (1945).
Ngày 14 tháng 7 năm 1899, Pháp lập khu vực ngoại thành Hà Nội do Đốc lí kiêm quản. Ngày 6 tháng 7 năm 1905, Toàn quyền Đông Dương bổ nhiệm một viên quản lí hành chính là Đồn trưởng đặt dưới quyền kiểm soát của Đốc lí Hà Nội, chịu trách nhiệm quản lí vùng ngoại ô thành phố Hà Nội. Từ ngày 1 tháng 1 năm 1915, khu ngoại thành là huyện Hoàn Long tách khỏi Hà Nội nhập vào tỉnh Hà Đông. Nhưng đến năm 1942, huyện Hoàn Long sáp nhập trở lại thành phố Hà Nội và là Đại lí đặc biệt gồm 9 tổng, 60 xã do Đồn trưởng làm Đại lí hàm Công sứ người Pháp đứng đầu, dưới quyền chỉ đạo của Đốc lí thành phố, trụ sở đặt tại Thái Hà ấp.
Cách mạng tháng Tám thành công, Hà Nội là thủ đô của nước Việt Nam Dân chủ Cộng hòa. Tổ chức hành chính của Hà Nội từ 8 quận nội thành và 9 tổng ngoại thành (8/1945) thành 4 quận nội thành và 4 quận ngoại thành (10/11/1945), rồi 17 khu phố nội thành và 5 khu ngoại thành (21/12/1945), 2 quận nội thành và 3 quận ngoại thành (3/1947). Đến ngày 18 tháng 9 năm 1950, Quận 1 và Quận 2 hợp thành Quận Nội thành; Quận 4, Quận 5 và Quận 6 hợp thành Quận ngoại thành.
Đồng thời, về kháng chiến - hành chính, Hà Nội thuộc chiến khu II (1945 -1946), là chiến khu XI (1946 - 1948). Hà Nội quản lí thêm huyện Đan Phượng của tỉnh Sơn Tây, huyện Hoài Đức, huyện Thanh Oai và huyện Thanh Trì của tỉnh Hà Đông (10/1947 – 5/1948). Từ tháng 5 năm 1948, Hà Nội hợp với Hà Đông để lập ra Liên tỉnh ủy Lưỡng Hà. Từ tháng 10 năm 1948, Hà Nội được tách thành khu đặc biệt thuộc Liên khu III và duy trì đến kháng chiến chống Pháp thắng lợi (1954).
Chính quyền tay sai cũng phân chia Hà Nội ra 4 quận nội thành và 5 quận ngoại thành (1947), 36 khu phố nội thành và 5 quận với 136 làng ngoại thành (1948), 25 khu (29/9/1949), 36 khu phố nội thành và 5 quận ngoại thành (25/7/1950).
Đến tháng 9 năm 1955, nội thành được chia làm 4 quân: I, II, III và IV. Dưới quận có 36 khu phố. Thành phố cũng quyết định bỏ cấp hành chính ngoại thành là Đại lí đặc biệt Hoàn Long, bốn quận Quảng Bá, Cầu Giấy, Ngã Tư Sở và Quỳnh Lôi được chia ra làm 3 quận V, VI và VII; quận Gia Lâm gọi là quận thứ VIII, khu vực Chèm đến Khuyến Lương là Quận IX.
Đến năm 1958, Thành phố bỏ cấp trung gian là quận trong nội thành, rút bớt số khu phố nội thành bằng việc sáp nhập các khu phố từ 36 xuống còn 12 khu phố, trực thuộc Uỷ ban Hành chính Thành phố. Mỗi khu phố nội thành chia ra từ 16 - 25 khối, mỗi khối có 5 - 6 tổ, mỗi tổ gồm 30 - 40 hộ gia đình.
Ngày 31 tháng 5 năm 1961, Hội đồng Chính phủ ra Quyết định số 78 - CP chia hành chính thủ đô Hà Nội ra 4 khu nội thành (Ba Đình, Đống Đa, Hai Bà Trưng, Hoàn Kiếm) và 4 huyện ngoại thành (Gia Lâm, Đông Anh, Từ Liêm, Thanh Trì). Ở nội thành dưới khu là khối, ở ngoại thành dưới huyện là xã, thị trấn.
Ngày 10 tháng 4 năm 1974, Hội đồng Chính phủ ra Quyết định số 78 - CP chia các khu phố ở Hà Nội và Hải Phòng ra nhiều khu vực nhỏ, gọi là tiểu khu. Đến ngày 24 tháng 12 năm 1974, Hà Nội được chia ra 179 tiểu khu (đến tháng 12 năm 1978 gộp thành 78 tiểu khu); ngoại thành vẫn có 4 huyện với 102 xã, 3 thị trấn.
Hà Nội sau mở rộng năm 1978 vẫn có 4 khu phố nội thành nhưng số đơn vị ngoại thành từ 4 tăng lên 12 huyện, thị xã. Hà Nội có 78 tiểu khu, 104 xã, 9 thị trấn cũ và 171 xã, 5 phường, 3 thị trấn mới.
Năm 1980, Chính phủ tổ chức lại đơn vị hành chính Hà Nội: nội thành có 4 khu phố là Ba Đình (15 tiểu khu), Hoàn Kiếm (18 tiểu khu), Đống Đa (24 tiểu khu), Hai Bà Trưng (22 tiểu khu). Thị xã Sơn Tây có 3 phường và 2 xã. Huyện Ba Vì 41 xã, Sóc Sơn 25 xã, Đông Anh 23 xã, Mê Linh 2 thị trấn và 22 xã, Thạch Thất 19 xã, Phúc Thọ 20 xã, Thanh Trì 1 thị Trấn và 22 xã, Đan Phượng 15 xã, Hoài Đức 27 xã, Gia Lâm 2 thị trấn và 31 xã, Từ Liêm 25 xã.
Theo Hiến pháp năm 1980, từ tháng 6 năm 1981, Hà Nội chuyển đổi đơn vị hành chính khu phố thành quận, tiểu khu thành phường. Ngày 12 tháng 8 năm 1991, kì họp thứ 9 Quốc hội khoá VIII ra Nghị quyết điều chỉnh địa giới hành chính thủ đô Hà Nội, theo đó Hà Nội có 4 quận nội thành là Ba Đình, Đống Đa, Hai Bà Trưng, Hoàn Kiếm và 5 huyện ngoại thành là Gia Lâm, Đông Ạnh, Từ Liêm, Thanh Trì, Sóc Sơn.
Trong quá trình đô thị hóa, Hà Nội đã mở rộng địa giới nội thành về phía tây và phía nam bằng việc lập thêm các phường và các quận mới như: quận Tây Hồ (28/10/1995), Thanh Xuân, Cầu Giấy (26/11/1996), Hoàng Mai và Long Biên (6/11/2003). Số đơn vị nội thành năm 1981 là 4 quận với 79 phường; năm 2007 lên 9 quận với 125 phường.
Ngày 29 tháng 5 năm 2008, Quốc hội đã thông qua Nghị quyết 15 điều chỉnh địa giới hành chính thủ đô Hà Nội và các tỉnh. Theo quyết định này, Hà Nội mở rộng sau ngày 1 tháng 8 năm 2008 có 29 đơn vị hành chính trực thuộc. Nội thành gồm 9 quận (Ba Đình, Cầu Giấy, Đống Đa, Hai Bà Trưng, Hoàn Kiếm, Hoàng Mai, Long Biên, Thanh Xuân, Tây Hồ) và 1 thành phố (Hà Đông). Ngoại thành gồm 18 huyện (Ba Vì, Chương Mỹ, Đan Phượng, Đông Anh, Gia Lâm, Hoài Đức, Mê Linh, Mỹ Đức, Phú Xuyên, Phúc Thọ, Quốc Oai, Sóc Sơn, Thạch Thất, Thanh Oai, Thanh Trì, Thường Tín, Từ Liêm, Ứng Hòa) và thị xã Sơn Tây.
Ngày 8 tháng 5 năm 2009, Chính phủ đã ban hành Quyết định xác lập địa giới hành chính xã Đông Xuân thuộc huyện Quốc Oai; các xã Tiến Xuân, Yên Bình, Yên Trung thuộc huyện Thạch Thất; huyện Mê Linh thuộc thành phố Hà Nội; thành lập quận Hà Đông và các phường trực thuộc; chuyển thành phố Sơn Tây thành thị xã Sơn Tây thuộc thành phố Hà Nội. Toàn thành phố có 10 quận nội thành, 18 huyện và 1 thị xã ngoại thành, với 577 đơn vị hành chính cấp xã (gồm 401 xã, 154 phường và 22 thị trấn).
Như vây, tổ chức hành chính của Hà Nội trong 150 năm qua (1858 - 2008) đã biến đổi rất phức tạp. Đó là còn chưa kể tới việc tách - nhập, bãi - lập một số tổng, xã, thôn, phường. Cũng trong thời gian này, số đơn vị hành chính trực thuộc tỉnh - thành phố Hà Nội ít nhất là 2 quận gồm Quận Nội thành và Quận Ngoại thành (18/9/1950 - 1954) và nhiều nhất là 29 quận, huyện, thị xã (sau ngày 1/8/2008). Thời gian biến đổi hành chính nhiều nhất, chống chéo và phức tạp nhất diễn ra từ năm 1945 đến năm
1954 vì yêu cầu kháng chiến kéo dài và do tồn tại song song 2 chính quyền. Thời gian tổ chức hành chính ổn định nhất diễn ra từ năm 1858 đến năm 1888 vì lí do Hà Nội còn là một tỉnh do nhà Nguyễn quản lí và chiến tranh chỉ diễn ra trong thời gian ngắn. Thành phố Hà Nội phân rõ nội - ngoại thành từ năm 1899. Đại lí Hoàn Long là trường hợp ngoại thành đặc biệt và tạo tiền lệ cho nhiều đơn vị ngoại thành bị tách - nhập.