Thời nhà Hậu Lê, vùng đất Anh Sơn thuộc huyện Nam Đường, phủ Anh Đô, xứ Nghệ An.
Dưới thời nhà Nguyễn, năm Minh Mạng thứ 12 (1831), trấn Nghệ An chia tách thành 2 tỉnh: tỉnh Hà Tĩnh và tỉnh Nghệ An. Phủ Anh Đô có thêm huyện Thanh Chương chuyển từ phủ Đức Quang sang. Thời Thành Thái, Phủ Anh Đô đổi tên thành phủ Anh Sơn gồm các huyện: Hưng Nguyên, Nam Đàn, Anh Sơn, Đô Lương và Thanh Chương.
Đến năm 1946, phủ Anh Sơn lúc này bao gồm 2 huyện Anh Sơn và Đô Lương. Huyện Anh Sơn khi đó có 55 đơn vị hành chính gồm thị trấn Đô Lương và 54 xã: Bắc Sơn, Bài Sơn, Bình Sơn, Bồi Sơn, Cẩm Sơn, Cao Sơn, Đà Sơn, Đại Sơn, Đặng Sơn, Đỉnh Sơn, Đông Sơn, Đức Sơn, Giang Sơn, Hiến Sơn, Hòa Sơn, Hội Sơn, Hồng Sơn, Hùng Sơn, Hương Sơn, Khai Sơn, Kỳ Sơn, Lạc Sơn, Lam Sơn, Lạng Sơn, Liên Sơn, Lĩnh Sơn, Long Sơn, Lưu Sơn, Minh Sơn, Mỹ Sơn, Nam Sơn, Ngọc Sơn, Nhân Sơn, Phú Sơn, Phúc Sơn, Quang Sơn, Tam Sơn, Tân Sơn, Tào Sơn, Thạch Sơn, Thái Sơn, Thành Sơn, Thịnh Sơn, Thọ Sơn, Thuận Sơn, Thượng Sơn, Tràng Sơn, Trù Sơn, Trung Sơn, Tường Sơn, Văn Sơn, Vĩnh Sơn, Xuân Sơn, Yên Sơn.