55Công văn số 2574, ngày 13//4/1895 của Đại tướng Duchemin - Tổng Tư lệnh Quân đội Viễn chinh Pháp tại Đông Dương gửi cho Công sứ Toàn quyền Pháp tại Bắc Kỳ, Phông Tòa Công sứ Hà Đông ( N0 2850, F97, tr 9), Đông Dương gửi cho Công sứ Toàn quyền Pháp tại Bắc Kỳ, Phông Tòa Công sứ Hà Đông ( N0 2850, F97, tr 9), Trung tâm Lưu trữ Quốc gia I Hà Nội
Như vậy đến tháng 4/1895, việc tế lễ tại Văn Miếu đã được cho phép khôi phục, tuy nhiên một phần của Ngôi miếu vẫn bị trại lính Quảng Yên chiếm đóng. Lực lượng quân đội còn đóng chốt tại đây cho đến tận sau năm 1901.
Cũng trong giai đoạn này, trường lính khèn Bắc Kỳ đã sử dụng khu đất ở Văn Miếu làm nơi luyện tập. Ngày 6/3/1900, Công sứ Pháp tại Cầu Đơ đã gửi Công sứ Toàn quyền Pháp tại Hà Nội bức công văn số 309 phản ánh việc: “Các quan lại bản xứ phàn nàn về việc trường lính khèn chưa được chuyển đi. Binh lính tại đây đã làm hư hại ngôi Chùa (Văn Miếu) mới được trùng tu và gây phiền nhiễu cho việc tế lễ”56. Vì vậy, ông đã yêu cầu phía “quân đội thực hiện nghiêm quân lệnh57” để không làm tổn hại đến Văn Miếu.
Cũng ngay trong ngày hôm đó (6/3/1900), sau khi nhận được bức công văn nói trên, Công sứ Toàn quyền Pháp tại Hà Nội đã làm việc với bên quân đội về việc di chuyển trường lính khèn đi nơi khác. Thiếu tá Borgnis Desbordes – sĩ quan Cục hậu cần thuộc Bộ tổng tham mưu quân đội viễn chinh Đông Dương trong bức công điện số 2114 trả lời Công sứ Toàn quyền ngay trong ngày 6/3/1900 đã giải thích: "Chúng tôi nhận được quá muộn công văn của ngài để kịp hoãn ngày khai giảng Trường hôm 5/3 lại… Chúng tôi xin hứa sẽ xem xét việc di chuyển sớm nhất có thể" 58
.
Mặc dù bên quân đội đã hứa như vậy nhưng thực tế cho đến tận quí III năm 1901, Trường lính khèn vẫn chưa đuợc chuyển đi nơi khác. Ngày 23/09/1901, Desteway – đại diện Chính quyền, Công sứ Pháp tại Cầu Đơ lại gửi công văn số 1954 đến Công sứ Toàn quyền Bắc Kỳ và Công sứ Hà Nội (kèm theo đơn kiến nghị của quan lại Hà Nội) đề nghị Chính phủ lưu tâm giải quyết