À l'origine du groupe sont RZA, GZA et Ol' Dirty Bastard, trois cousins issus de Staten Island, l'un des cinq districts de New York. Passionnés par la musique soul de leurs parents et par la culture hip hop omniprésente dans le ghetto de New York, ils créent ensemble une première ébauche de groupe, All in Together Now, qui ne connaitra aucune suite. C'est à cette époque qu'ils s'inventent leur premiers alter-ego. RZA est le « Scientifique », GZA le « Génie » et Ol' Dirty Bastard le « Spécialiste ». De son côté, RZA s'autoproduit. Pour sa part, GZA est le seul membre du groupe a avoir réalisé un album avant l'avènement du Clan.
Le groupe va ensuite va s'élargir avec l'arrivée de Raekwon, Ghostface Killah, Inspectah Deck, Method Man, U-God et Masta Killa qui signent ensemble un pacte afin de former une communauté artistique et financière. Le Wu-Tang Clan n'est pas qu'un collectif, il devient sa propre industrie. Certains membres sont originaires du Bronx bien que le QG de la formation reste Staten Island, quartier encore en retard à l'époque en matière de hip-hop. Depuis, le quartier, qu'ils renomment Shaolin, est devenu indissociable du nom de Wu-Tang.