Rautakaudella vainajat haudattiin polttamalla. Kristinuskon vakiinnuttua Hämeeseen 1200-luvun alkupuolella, polttohautauksista alettiin siirtyä ruumiin hautaamiseen. Varhaisista ruumishaudoista on löydetty vainajan kanssa haudattuja esineitä kuten polttohautaustenkin yhteydessä, mutta vähitellen esineiden hautaaminen väheni.
Hämeenlinnassa kristittyjen ensimmäinen kokoontumispaikka oli Hämeen linnan suojissa. Linnan ensimmäisessä kerroksessa oli katolinen kappeli, jonka käytöstä luovuttiin 1500-luvun lopulla, jolloin linnan kirkko sijoitettiin Kukkotornin kolmanteen kerrokseen. Sitä käytettiin aina vuonna 1659 sattuneeseen tulipaloon asti.
Hämeenlinnan seurakunnan katsotaan syntyneen kaupungin perustamisen yhteydessä 1639. Tulipalon tuhottua linnankirkon, seurakunta ryhtyi ensimmäisen oman kirkon rakentamiseen. Se valmistui vuonna 1666 kaupungin pohjoislaidalle. Sen yhteyteen tuli hirsiaidalla ympäröity hautausmaa. 1800-luvun alkuun asti suurin osa vainajista haudattiin yhteisiin hautoihin ilman muistomerkkejä. Niinpä vainajista ei ole säilynyt paljoakaan tietoa meidän päiviimme.
1700-luvun lopussa Hämeenlinnan kaupunki päätettiin siirtää linnan juurelta nykyiselle paikalleen Saarisen talon maille. Kuninkaan rakentamismääräyksessä edellytettiin hautausmaan sijoittamista erilleen kirkosta. Seurakuntalaisista ajatus erillisestä hautausmaasta oli outo ja pelottava, sillä vainajat jäivät yksin taivasalle ilman kirkon tuomaa suojaa.
Vuonna 1782 Kaurialan pellosta päätettiin erottaa hautausmaaksi 400 x 400 kyynärän alue. Hautausmaa aidattiin, ja koska matka kirkolle oli pitkä, varustettiin se myös eteishuoneella. Nykyisin Kaurialan vanha hautausmaa on puisto, jonka hoito kuuluu Hämeenlinnan kaupungille.
Ahveniston hautausmaan perustaminen
Kuvernööri Rehbinder esitti kirkonkokouksessa 1847, että hautausmaa tulisi muuttaa Poltinaholle. Väestönkasvun ja kuolleisuuden lisäksi vanhan hautausmaan ahtautta lisäsi se, että hautapaikkoja lunastettiin jo elinaikana. Lähellä kaupunkia sijainnut hautausmaa aiheutti sekä haju- että terveyshaittoja.
Monien vaiheiden jälkeen uusi hautausmaa päätettiin sijoittaa Ahveniston harjulle 1870. Paikkaa pidettiin synkkänä, koska se sijaitsi pahantekijöiden paikkana käytetyn suon yläpuolella. Lisäksi kulkureitti hautausmaalle kulki Poltinahon ampumaradan halki.
Hautausmaan raivaaminen jäi marraskuulle 1872, joten kovin viimeistelty se ei ollut, kun hautausmaa vihittiin käyttöön 29. joulukuuta. Sanomalehti Hämäläinen kirjoitti:
Kansaa oli monia satoja tullut saapuville, vaikka ilma ja keli oli mitä surkeinta taitaa. Tämä uusi 10 tynnyrinalan suuruinen hautausmaa on korkealla santamäellä, piiritettynä joka puolelta jyrkiltä vierteiltä, näköala tästä on lavea ja kaunis. Puiden istuttamisella ja huolellisella hoidolla voi tästä vähitellen syntyä ihana leposija kuolleille sekä suloinen virvoituspaikka heidän sureville ystävillensä.
Hautaukset siirrettiin heti vihkimisen jälkeen uudelle hautausmaalle. Maaliskuussa kreikan-uskoisille erotettiin oma alue kunnossapitovelvollisuutta vastaan. Hautausmaa jaettiin kolmeen multarahaluokkaan. 1. luokan mullassa pääkäytävän varrella (lohkot 1–19) hautapaikka maksoi viisi markkaa. 2. luokan mullassa (lohkot 20–35) hinta oli kolme markkaa ja 3. luokan mullassa (lohkot 36–52) yhden markan. Köyhät haudattiin ilmaiseksi. Lohkot 53–56 otettiin käyttöön vasta 1960-luvulla.
Pohjois–eteläsuunnassa kulkee kolme pääkäytävää ja 10 sivukäytävää, itä–länsisuunnassa neljä käytävää. Pääportti sijaitsee itäreunan pääkäytävän eteläpäässä ja kappeli saman käytävän pohjoispäässä.