Tháng 7/1929, Tôn Đức Thắng bị thực dân Pháp bắt giam tại Khám Lớn (Sài Gòn) và một năm sau bị đày ra Côn Đảo. Gần mười bảy năm bị giam ở ngục tù đế quốc, đặc biệt là những năm tù đày ở Côn Đảo (1930-1945), Người luôn chiến đấu với tinh thần của người cộng sản kiên cường, bất khuất trước mọi âm mưu và thủ đoạn của kẻ thù, thương yêu đồng chí và những người cùng cảnh ngộ.
Chịu biết bao cực hình dã man: bị nhốt vào hầm xay lúa, trong hầm tối, bị xiềng xích, cùm kẹp, bị bỏ đói, bỏ khát, nhưng tinh thần cách mạng kiên cường của Người trước sau vẫn không lay chuyển. Người đã “tổ chức anh em tù chính trị thành hạt nhân, đoàn kết toàn thể tù nhân, không phân biệt tù chính trị hay thường phạm…”, trong đó có nhiều tù nhân được giác ngộ, một số tù lưu manh cũng được cảm hóa. Những câu chuyện về nghệ thuật tổ chức và tài cảm hóa của “người cặp rằng Hầm xay lúa” mà các bạn tù của Người kể lại còn lưu truyền đến ngày nay và mai sau đã minh chứng cho sự kiên cường và óc sáng tạo của người chiến sĩ cộng sản Tôn Đức Thắng.
Người đã đề xướng việc thành lập Hội cứu tế tù nhân - hội tù Côn Đảo đầu tiên; góp phần quan trọng vào việc thành lập Chi bộ cộng sản đầu tiên ở nhà tù Côn Đảo, mở ra thời kỳ đấu tranh mới của tù nhân Côn Đảo, thời kỳ đấu tranh có tổ chức, có phương pháp, với mục tiêu cụ thể trước mắt và lâu dài. Đặc biệt khi Chi bộ thực hiện chủ trương biến “nhà tù thành trường học cộng sản”, Người tích cực hưởng ứng, gương mẫu học tập và tham gia vào truyền bá những kiến thức về lý luận cơ bản và nội dung huấn luyện cho các tù nhân. Nhờ sự bí mật, khôn khéo, Người đã giúp Chi bộ vừa chuyển được thư từ, tài liệu ở Côn Đảo về Sài Gòn, vừa nhận được nhiều sách lý luận gồm những tác phẩm kinh điển Mác, Ăngghen, Lênin... dùng làm tài liệu học tập trong tù.
Chiến tranh thế giới thứ hai bùng nổ (1939), dưới sự lãnh đạo của Chi bộ, Hội tù nhân do Người chỉ huy đã có nhiều hình thức và tổ chức hoạt động phong phú phù hợp với hoàn cảnh mới. Ngày 15/8/1945, Nhật đầu hàng Đồng minh không điều kiện; chớp thời cơ, Đảng ta đã lãnh đạo nhân dân vùng lên Tổng khởi nghĩa giành chính quyền về tay nhân dân. Theo tinh thần đó, Đảng ủy Côn Đảo chủ trương đoàn kết các lực lượng tù chính trị trên đảo giành chính quyền bằng phương pháp hòa bình. Tôn Đức Thắng được cử vào đoàn đại biểu đến gặp Quản đốc Lê Văn Trà, buộc Trà phải đồng ý một số vấn đề như: tổ chức chính quyền liên hiệp trên đảo, sửa chữa vô tuyến điện, sửa chữa radio để nghe tin tức, sửa chữa canô để đưa đại biểu về đất liền xin ý kiến của Chính phủ...
Hình ảnh người chiến sĩ cộng sản Tôn Đức Thắng kiên cường, sáng ngời bản lĩnh và niềm tin tất thắng vào sự nghiệp cách mạng của Đảng, của dân tộc để vượt qua sự khốc liệt của ngục tù đế quốc đã làm các đồng chí đảng viên tù Côn Đảo ngưỡng mộ và kẻ thù khiếp sợ.