Na zijn studie politicologie werd hij voorlichter van de CDA-fractie. Terwijl Jack de Vries bekend werd als ‘spindoctor’ van premier Balkenende, ontpopte Heerma zich tot strateeg achter de schermen. In 2010 vertrok Heerma plots na de formatie van het door de PVV gedoogde VVD-CDA-kabinet. In 2012 keerde hij terug als Kamerlid en woordvoerder sociale zaken. 

Heerma kreeg een prominente rol bij de formatie van het kabinet-Rutte III. Tijdens de lange onderhandelingen was de voormalig judoka de secondant van Buma. Het gaf hem goede papieren, zei Heerma na zijn verkiezing, om voorlopig het gat dat Buma achterlaat op te vullen. Zeker in het huidige ‘gepolitiseerde politiek landschap en met een hele smalle meerderheid’. ‘Vanzelfsprekend is het daarbij een groot voordeel als je alle ins en outs van een coalitiebespreking kent, je alle afspraken goed kent en de mensen die daar aan tafel hebben gezeten. Dat is een voordeel dat ik als fractievoorzitter heb.’