Fue inaugurado por Porfirio Díaz y su gabinete, el 29 de septiembre de 1900, a las 9:00 horas. Su construcción respondía a la necesidad de modificar el defectuoso sistema penitenciario del país. Se formó una comisión integrada por José Yves Limantour, José M. del Castillo, Miguel S. Macedo, Luis Malanco y Joaquín Alcalde para discutir tanto el diseño como el sistema que se usaría en la nueva penitenciaría.
Para la nueva penitenciaría de la ciudad de México, se eligió un predio conocido como ""La cuchilla de San Lázaro"", que fue propiedad de un español de apellido Lecumberri. La cárcel se construyó en la prolongación de la calle del mismo nombre. De estilo ecléctico y afrancesado, típico del siglo XIX, el Palacio de Lecumberri resaltaba su función represiva gracias a elementos como torreones, aspillas y almenas.
El ingeniero Antonio Torres Torija se le encargó el proyecto arquitectónico. Su diseño se basó en la ideología de los panópticos, la cual consiste en la facultad de ver desde un punto central todo el interior de un edificio (cárcel en este caso), y recíprocamente desde cada celda pueda verse ese punto central. Esa torre central se encontraba donde actualmente está la cúpula central (en aquel tiempo estaba al aire libre). El ing. Torres siguió los ejemplos de las penitenciarías del siglo XIX, como el de la Santé de París y la de Filadelfia, en Estados Unidos.
Precisamente fue por este diseño que los presos se sentían observados a todo momento, no existía privacidad y aunado con las múltiples torturas a los que eran sometidos los presos, esta cárcel fue temida en todo el país.
En total se construyeron 886 celdas, todas vigiladas desde la torre central. El edificio tuvo un costo de $2,396,914.84 de esa época.
Lecumberri albergó presos, tanto hombres como mujeres, incluso adolescentes y niños hasta 1954, cuando se inauguró la cárcel de mujeres, desde entonces, sólo hubo presos varones. Sin embargo, comenzó a haber una sobrepoblación y llegaron a estar hasta 20 presos en la misma celda.
Desde el sexenio de Miguel Alemán fueron encarceladas por ser opositoras al régimen priísta, hecho que agravó los problemas de aglomeración. Desde entonces se le llamó popularmente "El palacio negro".
Durante el sexenio de José López Portillo, se abrieron nuevos reclusorios, lo que permititió desocupar el Palacio de Lecumberri. El desalojo se llevó a cabo el 1 de agosto de 1976, tras casi ochenta años de servicio. El plan para el edificio era la demolición, sin embargo, expertos encontraron un mejor uso para el inmueble.
Pesos políticos e intelectuales incómodos
Esta cárcel legendaria fue escenario de la película "Nosotros los Pobres", con Pedro Infante en 1949. Entre sus muros perfilaron personajes como Pancho Villa, José Revueltas y David Alfaro Siqueiros (quien dejó un mural en el lugar). También estuvo el cantautor Juan Gabriel, acusado de robo.
Por el Palacio de Lecumberri pasaron los cuerpos sin vida de Francisco I. Madero y José María Pino Suárez (asesinados a espaldas del edificio en 1913); estuvieron presos Pancho Villa, Heberto Castillo, Ramón Mercader (asesino de León Trotsky), David Alfaro Siqueiros (en cuatro ocasiones), el poeta colombiano Álvaro Mutis; los luchadores sociales, Valentín Campa, José Revueltas y Demetrio Vallejo.
Estuvieron presos también asesinos seriales como Gregorio "Goyo" Cárdenas; "El sapo", quien se dice que mató a más de 150 personas; así como el narcotraficante cubano Alberto Sicilia Falcón, quien fue uno de los primeros en crear un red para traficar droga a los Estados Unidos, también se dice mantuvo relaciones amorosas con Irma Serrano y Dolores Olmedo. El barítono Francisco Sierra, pareja de la cantante Esperanza Iris, estuvo en esta prisión por fraude.
Fantasmas y cuentos de horror
Una de las leyendas más contadas es la de Don Jacinto, quien se le apareció a uno de los trabajadores y le preguntaba entristecido por su esposa. El empleado, intrigado por el fantasma, se puso a investigar y encontró que el nombre del preso era Jacinto y que entró a la cárcel por una 'mala jugada' por parte de su mujer y su amante. Sin embargo, el alma de Jacinto seguía con la esperanza de que ella lo visitara algún día.
También está la historia del "prisionero ahorcado". Era un hombre que se suicidó en un momento de distracción de los guardias tras ser condenado por un crimen que decía no haber cometido. Tomó las sábanas de su cama y se colgó de los barrotes. Algunos cuentan que su espíritu se aparece en ciertas fechas.
Resguarda la memoria de la nación
Actualmente se desempeña como el Archivo General de la Nación, las celdas que un día tuvieron como huésped a Pancho Villa ahora albergan documentos históricos, como cartas de Benito Juárez, las Constituciones de 1814, 1857 y 1917, manuscritos de Sor Juana Inés de la cruz y la carta original de Independencia del imperio mexicano, estos son solo algunos de los más de 17 millones de documentos, el año pasado la UNESCO otorgó el reconocimiento "Memorias del Mundo" a unos mapas indígenas y coloniales que se encuentran dentro del acervo de la Inquisición.