Để trấn áp các hoạt động đấu tranh, ngay tại trung tâm quận 1 ngày nay, thực dân Pháp đã xây dựng Khám Lớn Sài Gòn để giam cầm những người yêu nước. Khám Lớn Sài Gòn được xây dựng năm 1866 tại địa điểm số 69 Lý Tự Trọng ngày nay để giam giữ, giết hại tù nhân chính trị.

Năm 1885 nghĩa quân Nguyễn Văn Bường khởi nghĩa tại Sài Gòn đốt cháy khu Khám Lớn.

Năm 1916 nghĩa quân Thiên Địa Hội tấn công Khám Lớn giải thoát nhiều tù chính trị. 

Năm 1946 tại Khám Lớn cuộc Cách mạng khám đường bùng nổ dẫn tới sự ra đời Liên đoàn tù nhân Khám Lớn Sài Gòn.

Bia Khám lớn Sài Gòn

Ngày nay tại Thư viện Khoa học Tổng hợp một tấm bia ghi lại tội ác của thực dân Pháp và ý chí chiến đấu của các chiến sĩ cách mạng với nội dung: 

“Mảnh đất này, nơi được dựng lên các cơ quan văn hóa – giáo dục; từ Văn khoa Đại học đường, Đại học Văn Khoa, Thư viện Quốc gia, Thư viện Khoa học Tổng hợp thành phố Hồ Chí Minh, trước kia là KHÁM LỚN SÀI GÒN – nhà tù đầu tiên của thực dân Pháp – được xây dựng năm 1866.

Ngày 22/1/1885, Nguyễn Văn Bường khởi nghĩa tại Sàigòn đã đốt cháy khu Khám lớn. 

Đêm 11 rạng ngày 12/12/1916, lực lượng yêu nước Thiên Địa hội tấn công khám lớn giải thoát nhiều tù nhân chính trị. 

Năm 1917 Thực dân Pháp đưa chiếc máy chém Guillotin đặt tại KHÁM LỚN SÀI GÒN, xử tử nhiều chiến sĩ cách mạng. Người đoàn viên thanh niên cộng sản Lý Tự Trọng đã bị xử chém ngày 20/11/1931 bởi chiếc máy này. 

Tháng 12/1946, tại đây nổ ra “Cuộc cách mạng khám đường” “Liên đoàn tù nhân Khám lớn – SàiGòn” ra đời.

86 năm tồn tại, KHÁM LỚN SÀI GÒN – một địa ngục trần gian nơi tra tấn dã man, đày ải khắc nghiệt biết bao tù nhân yêu nước. 

Mãi mãi ghi dấu nơi đây sự hy sinh của những người yêu nước, những chiến sĩ cộng sản vì độc lập – tự do cho Tổ quốc.”