El Museo Sitio de Memoria ESMA funciona en el Casino de Oficiales de la ESMA, un edificio de 5.390 m² inaugurado en 1948 como lugar de esparcimiento y recreación de la alta oficialidad de la Armada. Es una construcción integrada por un pabellón independiente, tres plantas en peine, sótanos y una gran buhardilla.
La ESMA fue el centro clandestino más emblemático de Sudamérica. Por su dimensión edilicia, su ubicación en pleno tejido urbano, la convivencia de los marinos con los detenidos desaparecidos y por sus peculiaridades concentracionarias de reclusión y de exterminio, su función desbordó las propias fronteras convirtiéndolo en patrimonio de valor excepcional universal.
Desde los años de la dictadura, el Casino de Oficiales sufrió numerosas acciones y amenazas destinadas a borrar las huellas de su funcionamiento como centro clandestino. Gran parte de las modificaciones se realizaron en 1979 para ocultar el campo de concentración ante la visita de la Comisión Interamericana de Derechos Humanos (CIDH) a la Argentina, como consecuencia de las denuncias realizadas por sobrevivientes y familiares de las víctimas. Entre las principales transformaciones se encuentran el retiro del ascensor, el tramo de escalera desde hall de acceso hacia el sótano y el agregado de galerías en los patios Norte y Sur. La Armada, que administró el edificio hasta 2004, entregó el lugar al Estado argentino completamente vacío y en total deterioro.
Sin embargo aún conserva las marcas y huellas que son evidencias de la existencia del centro clandestino de detención, tortura y extermino (CCDTyE).