Des milliers de canadiens et de canadiennes de partout au pays servent dans les Forces armées canadiennes en tant que réservistes navals en temps de conflit et de paix, tout en s'engageant dans la vie civile. Créée en 1923, la Réserve navale du Canada est le fruit de la vision du contre-amiral Walter Hose qui, en tant que directeur du service naval pendant l'instable période de l'entre-deuxguerres, a autorisé la création d'une « marine citoyenne » pour former des marins provenant de villes non côtières et renforcer le soutien pancanadien à la jeune Marine royale canadienne.
Avec des divisions dans les principales villes du Canada, la Réserve navale est devenue essentielle aux efforts de mobilisation pendant la Seconde Guerre mondiale (1939-1945). Après la guerre, de nouvelles générations de marins ont continué à être recrutées et formées comme réservistes
La genèse du Monument national de la Réserve navale remonte au 50e anniversaire de la Réserve navale. À l'approche de cet important jalon d'un demi-siècle, Ottawa était l'endroit idéal pour célébrer l'importance nationale de cet anniversaire, étant donné son rôle de capitale du Canada et de centre symbolique de notre démocratie.
Dans le cadre des célébrations, une grande ancre a été choisie dans un chantier naval de Halifax et envoyée par train pour être placée à côté du NCSM Carleton, l'unité de réserve navale d'Ottawa. Le monument a été installé par la firme Thomas Fuller Construction, dirigée par le capitaine de vaisseau Thomas Fuller (1908-1994), membre retraité de la Réserve navale royale canadienne volontaire, un héros naval décoré de la Seconde Guerre mondiale qui a également été commandant du NCSM Carleton de 1948 à 1951.
Le 6 mai 1973, à l'occasion du dimanche de la bataille de l'Atlantique, le monument national de la Réserve navale a été dévoilé par le gouverneur général Roland Michener lors d'une cérémonie à laquelle participait l'équipage du NCSM Carleton. Une plaque sur le monument fait écho aux paroles de Winston Churchill : « Un réserviste c’est un citoyen deux fois », un rappel de la double identité des réservistes navals.
Le 12 octobre 2023, le monument a été inauguré de nouveau dans le cadre du 100e anniversaire de la Réserve navale par Son Excellence la très honorable Mary Simon, gouverneure générale et commandante en chef du Canada.