Le site est appelé "Folies" depuis 1829. L'expression ne s'applique pas à sa nature architecturale, puisque la "folie", dont la mode fut lancée au début du XVIIIe siècle, désigne un lieu habité, une maison de plaisance destinée aux réunions intimes et galantes, construite rapidement et coûtant fort cher... Le terme ici de "Folies" relève davantage de la question du goût et du décalage évident des choix de Maximilien Siffait avec l'esthétique de l'époque.