挂甲寺原名“庆国寺”，传说公元648年，唐太宗御驾征辽奏捷，大将军尉迟恭率军在此地修整。

尉迟恭与许多官 兵将身上的甲胄脱下来放在寺院周围晾晒，一连数日。在此之后，周围的住户便将寺名改叫挂甲寺，而寺院的和尚也只好按照乡邻的意思更名成了挂甲寺。由于寺院历史悠久，素负盛名。历代文人墨客，文官武将，不辞艰辛，来寺朝拜。挂甲寺初期仅仅占地两亩半，由山门、观音殿、大雄宝殿组成。古往今来，岁月流逝，古寺亦历尽沧桑，屡经变迁，几度盛衰。加之历史原因，寺院部分被毁，佛事一度消沉。

在张良相开始集资重修之后，用了不到两个月的时间，一座新的寺院便建成了。随着万世德抗倭援朝的胜利，张良相与部下们回到了天津，按照当初许下的誓言，张良相与手下将官将盔甲挂在挂甲寺以示还愿。

一时间，武将们在出征讨伐之前要到挂甲寺拜祭成为当时的一种流行时尚，而挂甲寺的灵气也愈发得到传扬。从此以后，寺院香火旺盛，每逢阴历二月十九，观音诞辰之日，开寺朝佛，善男信女，香客游人，聚集寺庙，进香膜拜。万历二十八年，当地一位姓刘的文人为此特意撰写了《重建挂甲寺碑记》，记载当时挂甲寺的繁荣景象，可惜的是这块碑不知流落到什么地方，但碑文还可以从现存的天津志书查找到。