Tỉnh Cao Lạng có 20 đơn vị hành chính gồm: thị xã Cao Bằng (tỉnh lỵ), thị xã Lạng Sơn, thị trấn Tĩnh Túc và 18 huyện: Bắc Sơn, Bảo Lạc, Bình Gia, Cao Lộc, Chi Lăng, Hà Quảng, Hòa An, Hữu Lũng, Lộc Bình, Nguyên Bình, Quảng Hòa, Thạch An, Thông Nông, Trà Lĩnh, Tràng Định, Trùng Khánh, Văn Lãng, Văn Quan.
Ngày 29 tháng 12 năm 1978, kỳ họp thứ 4 Quốc hội khóa VI ra nghị quyết chia tỉnh Cao Lạng để tái lập tỉnh Cao Bằng và tỉnh Lạng Sơn. Cùng năm này, chuyển 2 huyện Ngân Sơn, Chợ Rã (nay là hai huyện Ba Bể và Pác Nặm) của tỉnh Bắc Thái về tỉnh Cao Bằng quản lý (từ năm 1996, hai huyện này trở về với tỉnh Bắc Kạn) và chuyển huyện Đình Lập của tỉnh Quảng Ninh về tỉnh Lạng Sơn quản lý:
Tỉn