Khu vực nội đô TP HCM trước đây có rất nhiều nghĩa trang với hàng trăm nghìn ngôi mộ. Đa số chúng được xây dựng vào khoảng cuối cuối thế kỷ XIX, dưới chế độ Pháp thuộc, khi quy mô của Sài Gòn - Gia Định còn rất nhỏ. Sau đó, dân cư thành phố nhanh chóng trở nên đông đúc nên chính quyền phải di dời nghĩa trang để "lấy đất xây dựng các công trình phúc lợi, giữ vệ sinh môi trường".

Trong số những nghĩa trang, nổi tiếng và lâu đời nhất là Mạc Đĩnh Chi - nay là công viên Lê Văn Tám. Khu vực này được giới hạn bởi 4 tuyến đường Điện Biên Phủ - Hai Bà Trưng - Võ Thị Sáu và Phan Liêm ở trung tâm quận 1.

Cổng chính nghĩa trang trên đường Legrand de la Liraye (nay là Điện Biên Phủ) lúc vừa được người Pháp xây dựng ở vị trí công viên Lê Văn Tám ngày nay.

Theo tác giả Tim Doling (Ireland) - người có nhiều nghiên cứu, tìm hiểu về lịch sử Sài Gòn - TP HCM, công viên Lê Văn Tám nguyên thủy là nghĩa trang của người Châu Âu (Cimetière Européen) hay nghĩa trang Massiges. Người Sài Gòn thời đó cũng gọi là Đất thánh Tây. Về sau mang tên là nghĩa trang Mạc Đĩnh Chi.

Năm 1859, sau khi chiếm được Sài Gòn, người Pháp đã cho xây nghĩa trang này với diện tích 7,5 ha ở phía đông đường National (nay là Hai Bà Trưng). Lúc mới hoàn thành, nghĩa trang được giao cho Hải quân Pháp quản lý, chôn cất các sĩ quan và binh lính người Pháp trong cuộc chiếm đóng Sài Gòn.

Dù vậy, trong nghĩa trang cũng có một số lượng lớn các ngôi mộ của người Đức và Nga. Mãi đến cuối thập niên 1860, dân thường bắt đầu được chôn cất ở đây vì thời điểm đó Sài Gòn có rất nhiều người chết do dịch tả, sốt rét, ký sinh trùng đường ruột và kiết lỵ.

Vào khoảng năm 1870, nghĩa trang Việt Nam nhỏ (Cimetière Anamite hay Cimetière Indigène) được mở ngay tại phía bắc nghĩa trang của người Châu Âu. Đường phân chia hai nghĩa trang này được đặt tên là rue des Deux cimetières (đường hai nghĩa trang). Phải 10 năm sau, nó mới được mang tên là Mayer, sau đó là Hiền Vương và nay là đường Võ Thị Sáu.

Từ cuối thế kỷ 19, Sài Gòn bắt đầu phát triển thịnh vượng, nghĩa trang của người Châu Âu trở thành nơi an nghỉ của các chính trị gia xứ thuộc địa và các quản trị viên. Trong số đó có kiến trúc sư Marie-Alfred Foulhoux (1840-1892) và thị trưởng thành phố Sài Gòn Paul Blanchy (1837-1901).

Nghĩa trang Mạc Đĩnh Chi vào thời chính quyền Việt Nam Cộng Hòa.

Sự thay đổi khiến nó thành nơi chôn cất cho tầng lớp thượng lưu thuộc địa được nhắc trong một báo cáo quan trọng trên tờ Courrier Saigonnais đăng ngày 14/12/1912. Sau đó, những ngôi mộ hoành tráng của người quyền thế ở Sài Gòn ngày càng tăng, trong khi các ngôi mộ của những người lính và thủy thủ Pháp bị bỏ phế cỏ mọc um tùm.

Đầu thế kỷ 20, nghĩa trang được chia cắt thành những con đường nhỏ có trồng cây và kiểng do nhân viên thảo cầm viên Sài Gòn chăm sóc. Nghĩa trang lúc này được bao bọc bởi bốn bức tường vôi cao 2,5 m với cổng chính ở phía nam đường Legrand de la Liraye (nay là Điện Biên Phủ).

Cổng chính nằm đối diện trực tiếp cuối phía bắc của đường Bangkok, và sau năm 1920 khi đường Bangkok được đổi tên thành đường Massiges (nay là đường Mạc Đĩnh Chi), nó được biết đến với cái tên mới là nghĩa trang đường Massiges.

Nhiều nhân vật nổi tiếng của thời kỳ thuộc địa sau đó đã được chôn cất ở đây. Tuy nhiên, ngôi mộ ấn tượng nhất giai đoạn này là lăng mộ của ông Nguyễn Văn Thinh (qua đời ngày 1/11/1946) - thủ tướng đầu tiên của thời tự trị Cộng hòa Nam Kỳ (1/6/1946- 8/10/1947).

Tháng 3/1955, khi người Pháp rút khỏi Việt Nam, đường Massiges được chính quyền Việt Nam Cộng Hòa đổi tên thành Mạc Đĩnh Chi và tên gọi này mặc nhiên cũng trở thành tên của nghĩa trang.

Trong hai thập kỷ tiếp theo, các chính trị gia cao cấp, tướng tá và thành viên nổi bật khác của chính quyền Việt Nam Cộng Hòa cũng được chôn tại đây cùng với số lượng nhỏ người nước ngoài như phóng viên François Sully - làm việc ở tờ Time và Newsweek (qua đời tháng 2/1971).

Người nổi tiếng nhất được chôn cất tại nghĩa trang này là tổng thống chính quyền Việt Nam Cộng Hòa Ngô Đình Diệm và em trai - giám đốc cố vấn chính trị Ngô Đình Nhu. Hai người đã bị quân đảo chính ám sát vào ngày 2/11/1963. Ngoài ra, nơi đây còn có mộ của thống tướng Việt Nam Cộng Hòa Lê Văn Tỵ, chuẩn tướng Lưu Kim Cương…

Một góc công viên Lê Văn Tám ngày nay, nơi từng là nghĩa trang của giới thượng lưu ở Sài Gòn.

Năm 1971, theo tác giả Arthur J Dommen, một phần bức tường phía tây của nghĩa trang bị đổ, kèm theo nó là những lời đồn đại đó là dấu hiệu cho thấy ông Thiệu phải chịu trách nhiệm về cái chết của ông Diệm và phải làm gì đó để giải thoát cho linh hồn ông Diệm.

Những lời đồn đại về ma quỷ ở nghĩa trang chỉ thực sự bắt đầu lan truyền rộng rãi sau năm 1983, khi chính quyền TP HCM quyết định ngừng hoạt động nghĩa trang Mạc Đĩnh Chi với hàng nghìn ngôi mộ cùng kế hoạch xây dựng địa điểm này thành Cung Văn hóa thiếu nhi thành phố. Tuy nhiên, về sau nơi đây được quy hoạch thành công viên cây xanh và đặt tên là Lê Văn Tám.

Theo chỉ thị của chính quyền vào lúc đó, những người có thân nhân chôn trong nghĩa trang được hướng dẫn để sắp xếp cho việc cải táng trong hai tháng, nếu không có người nhận thì được hỏa táng và di dời nơi khác. Còn lại hài cốt của những người lính Pháp được đưa về quê chôn cất.

Cũng trong đợt di dời, giải tỏa này mộ của ông Ngô Đình Diệm và em trai được chuyển về nghĩa trang Lái Thiêu (Bình Hòa, Thuận An, Bình Dương). Một người em trai khác của ông Diệm là ông Ngô Đình Cẩn được chôn tại nghĩa trang sân bay Tân Sơn Nhất sau khi bị xử bắn vào năm 1965, và mộ bà thân mẫu Phạm Thị Thân cũng được quy tụ về đây.

Hiện, công viên Lê Văn Tám có rất nhiều cây xanh phủ bóng mát đã thay thế cho nghĩa trang Mạc Đỉnh Chi hoang vắng trước đây. Nơi đây cũng thường xuyên tổ chức các hoạt động giải trí cũng như các hội chợ, triển lãm về sách, nông nghiệp... Tuy nhiên, vẫn còn nhiều người dân địa phương mê tín không muốn đến đây vì lịch sử trước đó.

Đây cũng là nơi có dự án bãi đậu xe ngầm 100 triệu USD với quy mô chứa 2.000 xe máy, 1.250 ôtô, 28 xe buýt, xe tải và một bên là ba tầng hầm dành cho thương mại. Tuy nhiên, sau ngày động thổ vào tháng 8/2010, đến nay dự án đang “án binh bất động” vì vướng một số thủ tục và chưa biết bao giờ mới hoàn thành.