Cazemier was van 1994 tot 2000 burgemeester van Ameland. Daarna vertrok hij naar Dongeradeel, waar hij in 2008 afzwaaide. Hij vertrok naar Omrop Fryslân, waar hij directeur werd. Anderhalf jaar later werd hij toch weer burgemeester, van het Overijsselse Dinkelland. In 2016 werd hij geïnstalleerd als burgervader van Krimpenerwaard, in Zuid-Holland. Cazemier verhuist terug naar Friesland. Hij en zijn vrouw Ineke hebben in Dokkum een huis, vlakbij het Elfstedentocht-keerpunt.