L'aménagement du parc Alexandra, situé au coin de Second Street et First Avenue, a été planifié en 1901. Le parc, nommé en l'honneur de la reine Alexandra, a été officiellement ouvert en août 1903. Il a été établi à l'emplacement de l'ancien parc à bestiaux de la ville, où étaient gardées les bêtes amenées au marché hebdomadaire tenu à l'hôtel de ville. En 1923, le monument commémoratif de guerre du comté de Dufferin a été érigé dans le parc et inauguré lors des cérémonies du jour du Souvenir, le 11 novembre de la même année. On trouve aussi dans le parc le monument commémoratif de guerre de la ville, un abri d'orchestre (construit en 1922), un marché fermier et un monument commémoratif des anciens combattants (construit en 2003) en l'honneur des militaires qui ont servi au cours de la Première et de la Seconde Guerre mondiale ainsi que pendant la guerre de Corée et qui en sont revenus.
Imaginée par Nicolas Pirotton, cette statue de bronze d’un soldat, fusil posé sur l’épaule gauche et grenade dans la main droite, fut érigée à Orangeville en 1924. Le sculpteur se serait inspiré du portrait du major Thain Wendell MacDowell, un homme du coin qui reçut la Croix de Victoria pour ses actions à la crête de Vimy. La statue fut moulée par la Allis Chalmers Company de Toronto.
