V Egypte strávil tri roky vo väzení, odsúdili ho za militantnosť. Počas pobytu vo väzení bol údajne kruto mučený, čo niektorí považujú za dôvod jeho násilného radikalizmu. Zapletený bol aj do zavraždenia prezidenta Anwara as-Sádáta v roku 1981 či masakry zahraničných turistov v Luxore v roku 1997.
Následne sa v Afganistane spojil s bin Ládinom. Dvere džihádu sa mu otvorili v roku 1980, keď bol mladým lekárom na káhirskej klinike a dostal lákavú ponuku - liečiť islamských bojovníkov proti sovietskym jednotkám v Afganistane. Postupne sa stal sa hlavným stratégom al-Káidy a bin Ládinovým osobným lekárom, čo ešte viac zdôrazňovalo ich blízke vzájomné väzby.
Zawahrí bol jedným zo signatárov bin Ládinovej "fatvy" z roku 1998, ktorou vyzýval na útoky proti Američanom, a pravidelne sa začal objavovať po boku vtedajšeho vodcu al-Káidy. Často motivoval stúpencov tejto teroristickej siete svojimi ohnivými prejavmi s výraznou gestikuláciou a pohľadom spoza okuliarov s hrubým rámom, uvádza AFP.
Bin Ládin poskytoval al-Káide charizmu a peniaze, ale Zawahrí do nej priniesol taktiku a organizačné schopnosti potrebné na zaradenie militantov do siete buniek vo všetkých krajinách sveta, všíma si agentúra AP. "Bin Ládin k nemu vždy vzhliadal," uviedol expert na terorizmus Bruce Hoffman z univerzity v Georgetowne.