Rodák zo štátu Ohio ako mladý pracoval v automobilovom priemysle v Detroite, zároveň spieval v miestnej kapele Hi Energy a začal sa v nahrávacích štúdiách presadzovať ako sprievodný vokalista. Koncom 70. rokov sa zoznámil s Davidom Weissom a Donom Fagensonom, s ktorými založil formáciu Was (Not Was).
Atkinson sa podieľal na všetkých piatich štúdiových albumoch tejto skupiny: Was (Not Was) (1981), Born to Laugh at Tornadoes (1983), What Up, Dog? (1988), Are You Okay? (1990) a Boo! (2008). Vydal tiež dve sólové platne - Don't Walk Away (1982) a Get What You Deserve (2017). Medzi najväčšie hity skupiny Was (Not Was) patria Where Did Your Heart Go?, Walk the Dinosaur alebo Spy in the House of Love.
Atkinson spolupracoval aj so skupinou The Boneshakers a hosťoval na albumoch Eltona Johna, Boba Dylana, Briana Wilsona, Iggyho Popa, Willieho Nelsona, Pauly Abdul, Michaela McDonalda, Solomona Burkea, Bonnie Raitt, Jacksona Browna, Krisa Kristoffersona, Lylea Lovetta, Georgea Jonesa, Boba Segera či Waynea Kramera.
