Sýslumenn hafa í aldanna rás skipað veigamikinn sess í embættismannakerfi landsins. Heiti embætta sýslumanna hefur haldist óbreytt öldum saman þó embættismannakerfið nú sé gerólíkt því sem áður var.

Sýslumenn eru fyrst nefndir á Íslandi 1263 í samningi við Hákon gamla Noregskonung.

Fjöldi sýslumanna og umdæma þeirra var breytilegur framan af en komst í fastara form á 15. öld.

Á miðöldum merkti sýsla það landsvæði sem embættismaður hafði til yfirsóknar. Stærð og mörk sýslana voru á þeim tíma mjög á reiki. Eftir lok miðalda verða sýslur að föstum landfræðilegum stjórnsýslueiningum.

Lengst af snertu verkefni embætta sýslumanna allar þrjár greinar ríkisvaldsins, eins og það var greint á 18. öld af heimspekingnum Montesquieu í löggjafarvald, framkvæmdarvald og dómsvald. Með lögum nr. 92/1989, um aðskilnað dómsvalds og umboðsvalds í héraði, var að fullu skilið á milli dómsvalds og framkvæmdarvalds í stjórnskipaninni og frá gildistölu laganna hafa sýslumenn eingöngu sinnt störfum á sviði framkvæmdarvaldsins. Það er fyrst með 10. gr. þeirra laga að hlutverk sýslumanna í stjórnskipaninni er orðað og sagt að sýslumenn fari: „hver í sínu umdæmi, með stjórnsýslu ríkisins eftir því sem lög og reglugerðir mæla fyrir um.“

Alla tíð hafa embætti sýslumanna verið svo samofinn þáttur í stjórnskipan landsins að hlutverk þeirra var ekki sérstaklega skilgreint í lögum eins og fyrst var gert með 10. gr. laga nr. 92/1989. Þegar sýslumanna var getið í lögum var það vegna þeirra fjölmörgu verkefna, sem embættum þeirra var falið.

Frá upphafi embætta sýslumanna og fram á 20. öldina voru heimili sýslumanna jafnframt skrifstofur embætta þeirra. Við upphaf 20. aldarinnar og fram eftir öldinni flytjast skrifstofur embættanna af heimilum sýslumanna.