Năm 1936, ông được trả tự do, về hoạt động bí mật ở Hà Nội. Nguyên Văn Cừ đã tập trung vào công tác khôi phục cơ sở Đảng khôi phục và đẩy mạnh phong trào đấu tranh của nhân dân và đã thành công trong việc lập lại Xứ ủy Bắc kỳ và trở thành ủy viên Thường vụ Xứ ủy Bắc Kỳ (tháng 3 năm 1937). Tháng 9 năm 1937, Nguyễn Văn Cừ được cử vào Ban Thường vụ Trung ương Đảng Cộng sản Đông Dương ở hội nghị Hóc Môn (Gia Định). Năm 1938, ông được bầu làm Tổng Bí thư khi mới 26 tuổi.
Tại Hội nghị Ban Chấp hành Trung ương tháng 3 năm 1938, Nguyễn Văn Cừ đã cùng Trung ương Đảng xây dựng Nghị quyết "kiểm điểm các công tác, vạch ra nhiệm vụ của Đảng trong thời kỳ mới, xác định vấn đề lập Mặt trận dân chủ thống nhất là một nhiệm vụ trung tâm của Đảng trong giai đoạn hiện tại". Ngay sau Hội nghị Ban Chấp hành Trung ương, ông đã xúc tiến ngay việc thành lập Mặt trận dân chủ Đông Dương.
Dưới s