Implanté en périphérie sud de la ville, sur un terrain en pied de collines, l'établissement pénitentiaire comprend 3 quartiers distincts, séparés par leurs murs d'enceinte respectifs et disposant chacun d'un accès contrôlés par un corps de garde.
En 2013, le chantier Baumettes 2 conduit à la destruction de l'ancien quartier des femmes. Sur cette emprise est construite la nouvelle maison d’arrêt inaugurée en 2017 qui regroupe un quartier pour femmes (94 places) et un quartier pour hommes (479 places). La fermeture de la prison historique est intervenue le 28 juin 2018. Après une période d'ouverture au public, la destruction de l'ancien quartier des hommes est engagée en 2022 dans le cadre du programme Baumettes 3.