Đại hội lần thứ hai của CĐGD Việt Nam được tổ chức từ ngày 25-27/7/1961 tại thành phố Hải Phòng
Thứ trưởng Bộ Giáo dục Võ Thuần Nho và Phó Chủ tịch Tổng Công đoàn Việt Nam đã đến dự và phát biểu ý kiến.
Đại hội đã quyết định nhiệm vụ trước mắt của CĐGD Việt Nam là: "Đoàn kết lao động toàn ngành, ra sức bồi dướng quan điểm tư tưởng mới, bồi dưỡng nghiệp vụ văn hoá, kỹ thuật, cải thiện đời sống vật chất cho đoàn viên, xây dựng công đoàn cơ sở vững mạnh nhằm phát triển phong trào quần chúng thi đua giảng dạy tốt, công tác tốt, thực hiện giáo dục phục vụ công- nông, giáo dục phục vụ sản xuất, xây dựng một nền giáo dục thật sự XHCN".
Đại hội đã bầu Ban Chấp hành gồm 36 đồng chí uỷ viên chính thức và 4 đồng chí uỷ viên dự khuyết. Giáo sư Nguyễn Văn Hiếu được bầu làm Chánh thư ký, các đồng chí Trần Hậu Toàn, Ngụy Như Kon Tum, Trần Nhật Dụ được bầu làm Phó thư ký.