Im Volksmund wird es scherzhaft als "Fuchsbau" (in Anlehnung an den zur Entstehungszeit amtierenden Oberbürgermeister Jockel Fuchs) oder "Beamtengefängnis" bezeichnet: Das Mainzer Rathaus ist zweifelsohne ein charakteristisches Gebäude mit ganz eigener Formsprache.
Zuvor war Mainz fünf Jahrhunderte ohne Rathaus - bis der Mainzer Stadtrat 1968 das renommierte dänische Büro Jacobsen und Weitling mit dem Neubau beauftragte.
"Wir glauben, (...) einen Ort hoher Wertigkeit geschaffen zu haben, der öffentliches Interesse und vielleicht auch Diskussion wecken wird. Ein Für und Wider wäre schon ein positives Zeichen, denn ein Haus , über das man nicht redet, ist meist nicht der Rede wert." - so die Hoffnungen und Wünsche eines der Architekten des Mainzer Rathauses, Otto Weitling, im Januar 1974.
Was in der Baudokumentation aus Anlass der Eröffnung des Rathauses formuliert wurde, hat bis heute Bestand.
700 Jahre nach dem Bau des ersten Mainzer Rathauses im Mittelalter beauftragte der Mainzer Stadtrat nach einem europaweitem Wettbewerb das renommierte dänische Büro Jacobsen und Weitling mit den Planungen des Neubaus. Zuvor war Mainz 500 Jahre lang "rathauslos". Das sollte sich nun ändern: Der Bau sollte auf dem Halleplatz realisiert werden, dem heutigen Jockel-Fuchs-Platz.
Am 21. Juli 1972 feierten der damalige Oberbürgermeister Jockel Fuchs und die Bauleute Richtfest. Am Silvestertag 1973 wurde das Gebäude mit einer Stadtratssitzung in Betrieb genommen.
Bereits am nächsten Tag eroberten die närrischen Garden den Rathausplatz und in der darauf folgenden Festwoche stürmten 50.000 Mainzerinnen und Mainzer ihr neues Rathaus.
Zahlreiche Ehrengäste aus den Partnerstädten, der damalige Ministerpräsident von Rheinland-Pfalz, Helmut Kohl, der Wiesbadener Oberbürgermeister Rudi Schmitt und als Krönung Bundespräsident Gustav Heinemann beehrten das neue Haus mit ihrem Besuch. 600 Mitarbeiter bezogen ihre Büros.
Der Architekt Arne Jacobsen konnte diese Besitznahme des Gebäudes nicht miterleben. Er war bereits 1971 verstorben. 2002, im Jahr seines 100. Geburtstags erhielt das Rathaus zahlreiche Anfragen nach Leihmobiliar aus seinen Beständen für Designausstellungen weltweit.
