Vor bald 100 Jahren wurde das ILW als "Industrie- und Lehrwerkstatt" gegründet. Die ersten fünfzig Jahre war die Ausbildungseinrichtung am Rande der Mainzer Innenstadt untergebracht.
Das ILW Mainz startete seinen Ausbildungsbetrieb 1928 an einer Stelle, die schon 1300 Jahre zuvor der Frankenkönig Dagobert I. der Sage nach als Standort für einen Palast gewählt hatte. Dieser letzte bedeutende Herrscher aus dem Geschlecht der Merowinger lebt in Mainz bis heute in dem Namen der Straße fort, die in der Nähe dieser Stätte verläuft: der Dagobertstraße.
Die erste Adresse des ILW lautete Dagobertstraße 14, es handelte sich um angemietete Räume der damaligen Reichsbahndirektion Mainz. Am 1. April begannen dort 44 Lehrlinge ihre Ausbildung an 5 Drehbänken sowie einer Hobel-, einer Fräs- und einer Tischbohrmaschine. Alte Fotos von diesem Standort zeigen Lehrlinge bei der Ausbildung und dokumentieren, dass auch Sport auf dem Lehrplan stand.
Das 1897 errichtete Gebäude beherbergte die Königlich Preußische und Großherzoglich Hessische Eisenbahndirektion, die das Schienennetz der vereinigten Preußisch-Hessischen Eisenbahngemeinschaft verwaltete. Nach dem 1. Weltkrieg wurde daraus die Reichsbahndirektion Mainz und nach dem 2. Weltkrieg schließlich die Bundesbahndirektion Mainz.
Die Funktion des Reichsbahngebäudes stand in enger Verbindung zur Industrie, dem Wirtschaftszweig, dem das ILW als eine der ersten überbetrieblichen Ausbildungsstätten in Deutschland von Anfang an diente. Denn die Eisenbahn bildete mit ihren Transportkapazitäten einen maßgeblichen Katalysator der industriellen Revolution in der zweiten Hälfte des 19. Jahrhunderts und war zudem selbst Teil der Industrie. Ausdruck der Hochindustrialisierung in der Region Mainz war es, dass sich zahlreiche Firmen und Aktiengesellschaften gründeten. Unter ihnen auch die 1864 errichtete Portland-Cement Fabrik im nahe Mainz gelegenen Weisenau, die 1901 durch Fusion zur Portland Cementwerke Heidelberg & Mannheim Actiengesellschaft wurde, der heutigen HeidelbergCement AG, einem der Gründungsmitglieder des ILW.
Als die Reichsbahn 1931 den Mietvertrag kündigte, fand das ILW in der Dagobertstraße 20 ein geeignetes neues Zuhause. Der Backsteinbau am Mainzer Winterhafen war 1888 fertiggestellt worden und diente zunächst als Garnison-Waschanstalt u.a. für das benachbarte Militärlazarett (heute Fort Malakoff und Hyatt Hotel). Die großen, gut belichteten Räume bildeten die Basis für die Expansion des ILW nach schweren Jahren infolge der Weltwirtschaftskrise. Gegen Ende des 2. Weltkriegs wurde das Gebäude stark zerstört, und viele Werkzeuge, Motoren und Geräte kamen abhanden. Aber mit vereinten Kräften seiner Mitgliedsbetriebe gelang der Wiederaufbau, und 1960 wurde das ILW sogar Eigentümerin der ehemaligen Waschanstalt.
Als das ILW Anfang der 70er Jahre weiter wuchs, fiel die Entscheidung für einen Neubau in Mainz-Mombach, weil das alte Gebäude nicht mehr erweitert werden konnte. 1976 wurde der Ausbildungsbetrieb An der Brunnenstube 39 aufgenommen. Derzeit werden die Sanitäreinrichtungen umfassend saniert, die Baumaßnahmen sollen im Oktober abgeschlossen werden.
Ihr altes Gebäude in der Dagobertstraße 20 verkaufte das ILW 1976 an die Stadt Mainz, die ab 1981 Teile an das Kulturzentrum Mainz ("KUZ") vermiete. Inzwischen ist das KUZ an diesem Standort eine feste Größe im Mainzer Kulturleben und das Industriedenkmal erstrahlt nach einer 2018 abgeschlossenen Sanierung in neuem Glanz.