Le musée d’armes à feu, d’armures, d’armes blanches et de coiffures militaires, constitué en 1977, fait partie intégrante du château des Rohan dont il constitue l’un des points forts. Les travaux de restauration du château vont de pair avec la rénovation d’ensemble du musée, qui rouvre ses portes en 1987. Le musée tel qu’il se présente aujourd’hui  a été inauguré le 2 février 1996.

Le rez-de-chaussée regroupe des éléments lapidaires. Après un historique de la ville et de ses principaux bâtiments : église paroissiale, synagogue, hôtel de ville, fort de Mutzig, porte du bas, Château des Rohan, nous en arrivons à l’évocation de l’église romane disparue. Une maquette, des photos, une magnifique cuve baptismale gothique, des reproductions d’éléments conservés au musée de l’Oeuvre Notre Dame, évoquent cet édifice. Une salle sur l’époque romaine avec ses poteries en terre sigillée et l’époque mérovingienne avec un squelette et un magnifique couvercle de sarcophage pour sépulture multiple. Des emblèmes de la famille de Müllenheim, des pierres bornes ainsi qu’un linteau de porte de la Chapelle Saint-Jacques complètent ce niveau.

Le deuxième niveau est entièrement consacré aux armes : aux armes blanches fabriquées à Klingenthal pendant le Premier Empire, la Restauration et le Second Empire et cuirasses parachèvent cet ensemble. Collections de fusils fabriqués à la Manufacture d’Armes de Mutzig, mais aussi place à Chassepot et à son célèbre fusil. Des reproductions de « l’Empire » des Coulaux complètent cet ensemble.

Le troisième niveau est divisé en deux, une moitié est consacré à l’Homme de Néandertal tandis que l’autre partie accueille les expositions temporaires.

L’espace dévolu à l’Homme de Néandertal fait suite à la découverte fortuite d’un important site du paléolithique moyen (- 90 000 ans), à Mutzig, en 1993. Différents thèmes sont abordés : organisation du campement, un site favorable, la fabrication des outils, chasser et se nourrir.

• En 2019 : « Sur les traces de l’Homme de Néandertal »
• En 2022 : « Les premiers hommes en Alsace – Nouvelles découvertes archéologiques »
• En 2023 : « La forêt en mouvement »