Айман аз-Завахири родился 19 июня 1951 года в аристократической семье в Гизе (Египет). Еще в школе увлекся радикальными исламскими учениями. В 1974 году окончил медицинскую школу при Каирском университете по специальности «хирургия». После учебы занялся медицинской практикой: работал в египетской армии, а затем открыл собственную клинику. В 1978 году получил степень магистра хирургии.
Параллельно аз-Завахири продолжил делать карьеру в исламистских организациях. В 1975 году он возглавил одну из групп радикалов, которая чуть позже влилась в движение «Исламский джихад», запрещенное властями в 1979 году. В начале 1980-х годов аз-Завахири некоторое время находился в Пакистане, где оказывал врачебную помощь афганским беженцам, покинувшим страну после ввода советских войск. В октябре 1981 года в числе других исламистов был арестован по подозрению в причастности к убийству президента Египта Анвара Садата. Провел в заключении три года за незаконное хранение оружия.
В 1985 году отправил в качестве моджахеда в Афганистан, где познакомился с Осамой бен Ладеном и начал активную террористическую деятельность. По данным СМИ, в декабре 1996 года пытался проникнуть в Чечню, но был задержан пограничниками и провел шесть месяцев в заключении.
В 1998 году вместе с бен Ладеном выступил одним из организаторов «Международного исламского фронта за джихад против евреев и крестоносцев» и стал упоминаться как «второй человек» в «Аль-Каиде». При этом являлся главным мыслителем и идеологом организации, но мало занимался оперативным управлением. Тем не менее аз-Завахири считается одним из организаторов всех крупных терактов «Аль-Каиды». 24 февраля 1999 года был заочно приговорен Каирским военным судом к смертной казни. Спецслужбы США провели несколько безуспешных попыток его уничтожения, ФБР назначило награду за информацию о его местонахождении в $25 млн.