L’idéologie meutrière d’Al Qaïda s’appuie sur une doctrine ancienne, celle du jihadisme.
Pour les musulmans fondamentalistes, « jihad » signifie « guerre sainte ». Ce mot n’a cependant pas le même sens pour tous les musulmans... Sa traduction littérale est « effort contre ses passions ». Pour les uns, le jihad est d’abord interne, c’est le combat du croyant contre ses mauvais penchants. Pour les autres, c’est la « guerre sainte » ou « guerre légale » prescrite par la Loi, destinée à défendre l’islam contre un danger et à le propager. Les moudjahidines, « combattants du jihad », attaquent les peuples ou les Etats jugés coupables de malveillance ou simplement d’ingérence dans les affaires de l’islam. Les intégristes l’ont élevé au rang de sixième pilier de l’islam. 32
Le théoricien égyptien Saïd Qotb a popularisé le jihad comme une doctrine de guerre, en appelant les musulmans du monde entier à se regrouper pour instaurer un Etat islamique mondial. Avant d’être assassiné par Nasser, en 1966, il encouragea les jeunes musulmans à passer à l’action violente et à s’attaquer aux régimes « impies » du Moyen-Orient, mais aussi à l’Occident tout entier.
On retrouve cette même idéologie guerrière inspirée du jihad un peu plus tard en Afghanistan, lorsque l’URSS et son Armée rouge envahissent le pays en 1979 pour y installer un régime communiste. Très vite, la résistance s’organise autour des « Moudjahidines ». Ceux-ci étaient soutenus par les É-U, qui leur avaient fourni des armes et une formation militaire. Les É-U n’étaient pas les seuls à soutenir ces combattants islamistes, au nom de la lutte contre l’expansion communiste : l’Égypte, le Pakistan, les services secrets français, ainsi que l’Arabie saoudite, figuraient également parmi les alliés discrets de ceux qu’on peut qualifier de précurseurs du terrorisme islamiste international.
C’est en effet dans les rangs de ces « résistants moudjahidines » qu’ont été formés les Talibans, ces fameux « étudiants » formés dans les écoles coraniques pakistanaises qui installèrent un Etat islamiste pur et dur en Afghanistan. C’est aussi avec eux que se trouvait un personnage qui eut une influence considérable sur les mouvements de résistance se réclamant de l’islamisme : le Palestinien Abdallah Azzam, qui a relancé l’appel au jihad, à la guerre sainte contre les « impies ».
Petit à petit, l’Afghanistan devient une réserve de militants formés à un islam radical, qui se considèrent comme l’avant-garde qui va redonner aux musulmans leur fierté, avec comme idéal l’établissement d’un nouveau califat (territoire soumis à un calife, le chef suprême de la communauté islamique après la mort de Mahomet).
Lorsque la guerre d’Afghanistan prit fin avec le retrait des troupes de l’Armée rouge, beaucoup de combattants islamistes retournèrent dans leur pays pour combattre cette fois des gouvernements jugés trop modérés dans le respect de la loi islamique ou pour prêter main forte à d’autres rébellions islamistes. Ce fut l’origine de nombreux attentats « terroristes » (Egypte, Algérie, Tchetchénie, Bosnie, Cachemire...). Mais d’autres combattants restèrent en Afghanistan, dans une zone frontalière avec le Pakistan. Entre 1988 et 1990, grâce au financement d’Oussama Ben Laden, ils y fondèrent un nouveau réseau, qu’ils nomment « Al Qaïda », ce qui signifie « la Base » (en référence à « une base de données » reprenant les coordonnées de militants à travers le monde).
En 1991, Oussama Ben Laden était au Soudan où il avait créé des camps d’entraînement pour combattants islamistes. Après 1996, il s’enfuit en Afghanistan et y finança un grand nombre de groupes « terroristes ». Selon des documents d’Al-Qaïda qu’on a découvert, près de 5000 militants islamistes originaires d’une vingtaine de pays se rendirent en Afghanistan durant la deuxième moitié des années 1990, pour y recevoir une formation miltaire. Certains de ces militants étaient des jeunes déracinés d’Europe, recrutés par des amis, des membres de leur famille ou des imams.
Ben Laden leur fait partager son rêve de réunir tous les musulmans du monde sous l’autorité d’un nouveau califat, en une sorte de retour vers un prétendu âge d’or de l’islam... Selon Rik Coolsaet, Ben Laden « semble se considérer lui-même comme une version moderne du légendaire Saladin, qui entend chasser, non les croisés mais les Etats-Unis d’Arabie saoudite (qui abrite les lieux saints de l’islam : La Mecque et Médine) - ce qui s’est partiellement produit depuis lors - et faire tomber la dynastie saoudienne régnante. »