Anh Sơn – vùng đất ở miền núi Tây Nam xứ Nghệ có lịch sử hình thành khá lâu đời. Nơi đây diễn ra hai chiến thắng vang dội của nghĩa quân Lam Sơn là Khả Lu và Bồ ải trên dòng sông Lam vào cuối năm 1424, có thắng cảnh Kim Nhan và vùng đô hội Dừa Lạng (nhất Kinh Kỳ, nhì Dừa Lạng).
Xa đây thuộc đất Đô Giao, đời Ngô thuộc Cửu Đức, đời Đờng là đất của huyện Hàm Hoan. Thời Tiền Lê là đất Hoan Đờng. Đời Trần, Hồ là đất Kệ
Giang. Thời thuộc Minh cho lệ vào Thạch Đờng. Đời Lê thuộc Nam Đờng (nằm trong phủ Anh Đô). Sau đó, lại thuộc về Thanh Chơng (phủ Đức Quang cũ). Đến cuối năm 1822, mới đặt là phủ Anh Sơn (gồm cả Đô Lơng). Năm 1826, phủ Anh Sơn đợc sát nhập thêm 2 huyện mới là Thanh Chơng và Chân Lộc. Năm 1831, phủ Anh Sơn lập thêm 1 huyện mới là huyện Lơng Sơn (tách từ 4 tổng phía trên của huyện Nam Đờng). “Với địa danh và địa giới nh trên, huyện Lơng Sơn đã tồn tại mãi trong thời Pháp thuộc tới sau Cách mạng tháng Tám 1945. Với việc bãi bỏ cấp hành chính trung gian thì huyện này cũng đợc đổi tên mới là huyện Anh Sơn” [16,414].
Từ năm 1947 – 1954, Anh Sơn có 33 xã với dân số 15045 ngời (Số liệu từ hồ sơ tên lãng cũ xã mới huyện Anh Sơn từ 1947 – 1954). Thời kỳ này địa giới của Anh Sơn bao gồm huyện Anh Sơn, huyện Đô Lơng ngày nay.
Đến năm 1963, huyện Anh Sơn (mới) đợc thành lập, đợc tách ra từ huyện Anh Sơn lớn theo quyết định số 52 – CP ngày 19/4/1963 của Chính phủ. Khi tiến hành tách huyện, diện tích của Đô Lơng chiếm tới 2/3, còn Anh Sơn chỉ chiếm 1/3. Địa hình Anh Sơn lại chủ yếu là đồi núi. Lúc này, huyện có 15 xã với dân số khoảng 40000 ngời. Địa giới hành chính này giữ nguyên tới ngày đất nớc thống nhất.