С незапамятных времен парадными воротами Касимова служили Обелиски Петровской заставы. Это сейчас они являются частью исторического центра, а раньше именно с них начиналось знакомство с городом. Воздвигнуты они были почти триста лет назад в конце XVIII века и прозваны в народе «Водяными воротами», поскольку стояли на Набережной, а река в те времена играла ключевую роль для жизни населения.
Со временем колонны потеряли свой первоначальный блеск; кстати, когда асфальтировали улицу, одну из них перенесли, поскольку она мешала проезжей части, а про символы державной власти, венчающие вершины, к тому моменту уже успели подзабыть. В юбилейный для Касимова 2002 год в городе активно восстанавливали архитектурные памятники, не обошли стороной и два обелиска: орлы вновь стали главным украшением. Отлитые из чугуна, они являются свидетелями эпохи Николая I, вес каждого изделия составляет 130 килограмм, а для украшения короны, скипетра и державы художник использовал тончайшие листки с нанесенными на них сусальным золотом.