Již od dávných dob byla hnána voda do náměstí různými způsoby. Přímo na náměstí byla zřízena během raného středověku studna. První skutečný vodovod tímto směrem byl vybudován v roce 1636, a to díky řeznickému cechmistru, konšelu a pozdějšímu císařskému rychtáři Janu Jiřímu Mannovi. Jeho základem bylo to, že voda byla od podkostelního mlýna hnána vodním kolem do nádrže vodárenské věže u školy a odtud proudila dřevěným potrubím do čtvercovité kašny. Tato vodárna vyhořela 8. srpna 1670 při všeobecně známém požáru města. Když se mlýn dostal počátkem 18. století do soukromých rukou, tak se stalo součástí kontraktu to, že držitel mlýna měl povinnost se starat o obecní vodárnu "v nejlepším pozoru dnem i nocí" a vodu do města neustále hnát. Za tuto podmínku dostával z každé várky od hnání vody 10 krejcarů a na potřebné mazadlo z obecních důchodů 3 zlaté a 13 krejcarů.
Výše uvedený vodovod měl řadu chyb, a to i v oblasti hygieny. Navíc byl vybudován pouze pro měšťany na náměstí, ostatní se tak museli postarat o přístup k vodě jinými způsoby, zejména vlastními studnami, případně dovozem vody odjinud. Rovněž stará studna měla závadnou vodu, a tak byla v roce 1817 zakryta. Kvůli velkému nedostatku vody však došlo roku 1860 k jejímu opětovnému uvedení do provozu, kdy byla navíc opatřena pumpou se železným kolem. Kvůli epidemiím úplavice a jiných chorob došlo po několika letech k tomu, že byla opětovně zrušena. V roce 1821 byl na kašnu napojen prvním železným potrubím ve městě zdejší pivovar, jenž se tehdy nacházel v domě čp. 46. Roku 1846 byla zřízena okrouhlá kašna s kamennou výzdobou, která byla odstraněna v roce 1951.
Ke zřízení prvního městského vodovodu došlo v Jaroměři poměrně pozdě, a to v letech 1882-1887. Tehdy byla u studně nad kaplí sv. Anny vybudována vodárna, z níž byla voda vedena do uličních stojanů, ke kterým pak museli všichni obyvatelé pro vodu chodit. Ty však byly umístěny pouze v níže položených místech a na náměstí se tak voda vůbec nedostala. Celkový náklad na něj činil 20 000 K a byl plně uhrazen obcí. Netrvalo dlouho a objevily se různé problémy a nedostatky, ale vybudování nového vodovodu bylo dlouho odkládáno.
Projekt nového obecního vodovodu byl vypracován až po vzniku ČSR Ing. Janem Vladimírem Hráským, jedním z našich nejvýznamnějších odborníků v této oblasti. Naopak věžový vodojem o kapacitě 400 m3 byl navržen architektem Františkem Jandou. Roku 1926 byla městem uzavřena zápůjčka ve výši 1 000 000 Kč na výstavbu vodovodu, a to u spořitelny v Německém Brodě. Město Jaroměř zadalo stavbu tohoto vodovodu s čerpací stanicí, vodojemem, potrubní sítí a obytným stavením v roce 1927 a spuštěn byl o 2 roky později. Jeho výhodou bylo nejen to, že byl zaveden již přímo do objektů, ale zároveň vznikla po městě síť hydrantů pro případ požáru. Jeho výstavba si však vyžádala i lidský život, když byl 8. května 1928 zasypán ve výkopu v místě "Na vinici" dělník Bohuslav Klouček z Čáslavek. Jeho smrt však nebyla způsobena samotnou zemí, nýbrž dlažební kameny v ní mu roztříštily lebku. Se stavitelskou firmou bylo následně zahájeno trestní řízení, protože krátce předtím odstranila z příkopu veškeré pažení.
O samotné výstavbě vodovodu vyšla zmínka v prosinci 1928 v odborném časopise pro plynárenství, vodárenství a obecní zdravotně-technickou službu "Plyn a voda": "Jaroměř staví nový vodovod ze studně založené na straně Lázní Velichovek, odkud se voda přivádí potrubím do nového železobetonového vodojemu nad městem (nad zastávkou). Délka trubní sítě as 17 km. Současně staví si vodovod pivovar a továrna Polický. Oba tyto průmyslové vodovody jsou na vodu labskou. Dosavadní městský vodovod, zvaný Anenský, přes 40 let starý (má reservoir. u kaple sv. Anny), je dávno nedostatečný a voda z Labe nevyhovuje (vodní síla prodána). Nový vodovod má státi as 3 1/4 mil. Kč."
Na nejvyšším místě ve městě tak vznikl železobetonový věžový vodojem, v jehož přízemí se nachází jediná prostora s potrubím uprostřed a schodištěm podél severovýchodní stěny, přičemž vstup na střechu arkády je z podesty. Plochá střecha vestibulu je podepřena 12 válcovitými sloupy a nad ní je situována nosná konstrukce věže, jež je opticky členěna stejným množstvím širokých lizén (mezi nimi jsou nahoře a dole obdélná okna), a to podobně jako plášť rezervoáru, i když tam jsou mnohem mělčí. Vodojem je pak zakončen kuželovitou měděnou střechou se čtveřicí kruhových okenních vikýřů. Takto fungoval vodojem až do roku 1985, aniž by se něco výrazněji změnilo v souvislosti s postupným rozšiřováním vodovodní sítě. Náhradou po jeho uzavření se stal v roce 1983 dokončený dvoukomorový zemní vodojem u Zaloňova, jehož kapacita je 2 x 750 m3.
Unikátnosti věžového vodojemu, nacházejícího se v nadmořské výšce 324,1 m n. m., si rovněž všimli památkáři, takže byl tento objekt zapsán do státního seznamu kulturních památek 15. března 1984, tedy nedlouho před ukončením jeho provozu (viz
https://pamatkovykatalog.cz/vodarna-16304050). Tato vodárenská věž byla rovněž inspirací k pojmenování této lokality - "Vodárna", "U vodárny", "Věž" a "U věže".