Địa hình huyện thấp dần theo hướng đông nam, phía bắc là vùng núi thấp dưới chân dãy núi Bắc Sơn, còn gọi là cánh cung Bắc Sơn chạy từ Lạng Sơn sang Thái Nguyên (một trong năm dãy núi hình vòng cung tạo nên nét đặc trưng của địa hình vùng Đông Bắc).
Chảy qua giữa huyện, theo hướng Đông Nam là con sông Sỏi, một nhánh nhỏ đầu nguồn của sông Thương.
Hàn