Holbrook sa narodil v roku 1925 v Clevelande. Po absolvovaní vojenskej služby počas druhej svetovej vojny v kanadskej provincii Newfoundland študoval na Culverskej vojenskej akadémii a na Denisonovej univerzite. Svoje prvé divadelnícke skúsenosti nadobudol ako 17-ročný, jeho debut na striebornom plátne prišiel vo filme Partia (1966).
Holbrook účinkoval v približne 50 filmoch vrátane snímok Magnum Force (1973), Moskovská romanca (1974), Všetci prezidentovi muži (1976), Bitka o Midway (1976), Kozorožec 1 (1977), Júlia (1977), Sudcova noc (1983), Wall Street (1987), Firma (1993), Útek do divočiny (2007), Večerné slnko (2009), Lincoln (2012) či Zasľúbená krajina (2012). Naposledy sa predstavil v trileri Poď so mnou (2015).
Objavil sa aj vo viacerých televíznych seriáloch, medzi ktoré patria Designing Women, Západné krídlo, Pohotovosť, Sever a juh, NCIS - Námorný vyšetrovací úrad, Zákon gangu, Kosti, Hawaii 5.0, Sopránovci alebo Klinika Grace.
Holbrook sa ako divadelník preslávil najmä svojou monodrámou Mark Twain Tonight! o spisovateľovi Markovi Twainovi, s ktorou vystupoval vyše 60 rokov. Bol laureátom piatich cien Emmy, jedného ocenenia Tony a raz ho nominovali na Oscara.
V roku 2011 vydal knižnú autobiografiu Harold: The Boy Who Became Mark Twain. Holbrook bol trikrát ženatý, jeho treťou manželkou bola v rokoch 1984-2010 americká herečka Dixie Carterová. Zanechal po sebe tri deti.
