Van 1815 tot 1954 werd Paushuize gebruikt als werkruimte en woonhuis voor de gouverneur van de provincie Utrecht, later commissaris van de Koning(in) genaamd. Met de komst van de gouverneur naar Paushuize werden ook twee wachthuisjes op de brug over de Kromme Nieuwegracht geplaatst. Mogelijk symboliseerden de (waarschijnlijk onbemande) wachthuisjes de militaire rol die de gouverneur in die tijd had, als bevelhebber van de krijgsmacht in zijn provincie.
Deze exemplaren hebben van circa 1890 tot 1936 aan weerszijden van de poort gestaan. Opvallend is de neogotische detaillering, waarmee getracht werd aan te sluiten op de zestiende-eeuwse architectuur van Paushuize.
Tegenwoordig is Paushuize een representatieve ruimte voor de commissaris van de Koning en het provinciebestuur.
In 2017 zijn de wachthuisjes door het Nationaal Militair Museum overgedragen aan de provincie en hebben ze, na een restauratie waarbij de oorspronkelijke kleuren teruggebracht zijn, een plek op de binnenplaats van Paushuize gekregen.