Sỏng ngày 20-4-1882, Rivie gửi tối hậu thư cho Hoàng Diệu đề ra những điều kiện hỗn xược như bắt cỏc quan tỉnh phải nộp mỡnh ngay 8 giờ sỏng hụm sau. Hoàng Diệu cử ỏn sỏt Tụn Thất Bỏ ra gặp Rivie đề nghị hoón trả lời lại một hụm để cú thỡ giờ chuẩn bị thờm. Nhưng Tụn Thất Bỏ vốn đó tư thụng với Phỏp, bỏ chạy trỳ ẩn ở làng Mọc. Quõn Phỏp bắt đầu nổ sỳng.
Từ 8 giờ đến 10 giờ, ba tàu chiến của chỳng ở dưới sụng thi nhau nhả đạn vào thành, đồng thời bộ binh chỳng kộo vào đỏnh thành.
Trờn đường tiến quõn, quõn đội Phỏp vấp ngay sự khỏng cự của nhõn dõn Hà Nội. Để cản trở bước chõn giặc, nhõn dõn tự tay chõm lửa đốt nhà mỡnh và từng dóy phố của mỡnh thành một bức tường lửa khiến cho chỳng phải lỳng tỳng, tỡm đường tiến quõn qua cỏc chiến hào đầy nước và bựn.
Đến 10 giờ quõn Phỏp bắt đầu cụng thành.
Ngay khi thực dõn Phỏp bắt đầu nổ sỳng, Hoàng Diệu mặc dự đang ốm vẫn dẫn đầu tướng sĩ lờn mặt thành chỉ huy chiến đấu. Khi quõn Phỏp xụng tới đỏnh thành, một trận giỏp chiến ỏc liệt nổ ra.
Cuộc chiến tiếp diễn đến 11 giờ trưa thỡ một sự việc bất ngờ xảy ra là kho thuốc sỳng trong thành bỗng nhiờn bốc chỏy, khiến tinh thần quõn sĩ bắt đầu hoang mang. Thừa lỳc đú, quõn Phỏp dồn lực lượng vào đỏnh phỏ cửa Tõy và cửa Bắc. Quõn ta bắt đầu tan ró. Cũng phải nhắc tới sự kiện là, trong khi quõn trong thành cũn đang chiến đấu, nhõn dõn Hà Nội sau khi đốt từng dóy phố để làm chậm bước tiến quõn của chỳng, đó kộo đến cửa Tõy chống giặc. Mặt khỏc tất cả cỏc nhà đều khua trống, đỏnh chiờng để hỗ trợ tinh thần của quan quõn trong thành. Ngoài ra, cú cả hàng ngàn dõn vũ trang bằng giỏo mỏc, gậy gộc kộo nhau đến tập họp trước đỡnh Quảng Văn (nay là ngó năm Cửa Nam) và do Nguyễn Đồng, người Bớch Cõu, đỗ cử nhõn vừ đốc xuất, thẳng tiến vào thành để cựng với quan quõn chống giữ. Nhưng chưa vào đến nơi thỡ khi thuốc sỳng đó nổ, giặc đó làm chủ toà thành.
Khi thấy cỏc cửa thành đó bị phỏ và quõn sĩ đó rối loạn khụng thể chiến đấu được nữa, Hoàng Diệu quay vào hành cung bỏi vọng, thảo một tờ biểu để lại cho Tự Đức trong đú cú đoạn:
“Làm sao tin được lũng giặc nờn thần lo sửa soạn đề phũng. Việc chưa xong thỡ quõn Phỏp kộo đến. Thần trộm nghĩ: Hà Nội là cỏi cuống họng của Bắc Kỳ nờn thần thường tõu về triều đỡnh xin thờm binh. Nhưng bệ hạ lại quở trỏch.”
Sau đú ụng đến Vừ Miếu tự tử. Quõn tướng ta thấy khụng cũn điều kiện chiến đấu được nữa nờn đều bỏ chạy.
Sau khi chiếm xong thành Hà Nội, cướp đoạt tiền bạc, Rivie cho gọi Tụn Thất Bỏ về giao cho coi một phần thành, cũn hắn vẫn chiếm đúng hành cung.
Chủ trương của thực dõn lỳc này là trong 3 ngày, cấp tốc buộc Tự Đức phải ký hoà ước mới, nhận cho chỳng quyền đúng 600 quõn ở Hà Nội, cho tàu chiến của chỳng tự do đi lại khắp nơi và cho chỳng giữ độc quyền thương chớnh. Như thế, theo chỳng là “đủ để đặt sự bảo hộ của Phỏp hoàn toàn trờn đất Việt Nam, ớt nhất là trờn Bắc Kỳ” (Correspondance politique du commandant Riviốre au Tonkin – A.Masson, tr.84). Để lừa triều đỡnh Huế, Rivie cho tàu chiến vào cửa Thuận An, bỏo cho Tự Đức biết là y sẽ trả lại Hà Nội.