L'instrumentation rap découle de la musique funk, disco et R&B, à la fois sur le plan de l'équipement sonore et des albums échantillonnés. Alors que le mixage réalisé par les DJ disco et de clubs avait pour but de produire une musique continuelle avec des transitions discrètes entre les morceaux, celui réalisé par Kool DJ Herc a lui donné naissance à une pratique visant à isoler et à étendre les seuls breaks en les mélangeant entre eux avec deux copies du même morceau. À l'origine, les breaks (ou breakbeats) étaient les transitions à l'intérieur d'un morceau, composées surtout de percussions. C'est ce qu'Afrika Bambaataa décrivit comme « la partie du disque qu'attend tout le monde… où ils se laissent aller et font les fous » (Top, 1991). James Brown, Bob James et Parliament - parmi d'autres - ont longtemps été des sources populaires pour les breaks. Sur cette base rythmique, on pouvait ajouter des parties instrumentales provenant d'autres albums (et beaucoup l'ont fait). L'instrumentation des premiers samples utilisés est la même que celle de la musique funk, disco ou rock : voix, guitare, basse, clavier, batterie et percussions.
Alors que l'originalité de la musique rap provenait principalement des breaks des albums du DJ, l'arrivée de la boite à rythmes (appelée en anglais beat box ou drum machine) a permis aux musiciens du rap d'intégrer des fragments originaux à leur musique. Les sons de la boîte à rythme étaient joués soit par-dessus la musique produite par le DJ, soit seule. La qualité des séquences rythmiques est progressivement devenue centrale pour les musiciens de rap, car ces rythmes étaient la part la plus dansante de leur musique. En conséquence, les boites à rythme ont rapidement été équipées pour produire des kicks (sons de grosse caisse) avec une basse puissante et sinusoïdale en arrière-plan. Cela a permis d'émuler les solos de batterie de vieux albums de funk, de soul et de rock datant des années 1960 et 1970. Les boites à rythme avaient de plus un stock limité de sons prédéterminés incluant des cymbales, des grosses caisses, des caisses claires et des toms.
L'introduction des échantillonneurs (ou sampleurs) a changé la manière dont le rap était produit. Un échantillonneur permet d'enregistrer et de stocker numériquement des petits passages sonores provenant de n'importe quel appareil disposant d'une sortie électrique, comme une platine-disque. Les producteurs ont donc pu échantillonner les sons de batterie des albums de leur jeunesse. Plus important encore, ils ont pu sampler des sons de cuivre, de basse, de guitare et de piano à ajouter à leurs rythmes. Et le rap avait finalement son orchestration au grand complet.
Le caractère dur et énergique des sonorités de la musique rap, souvent assez éloigné du son plus organique des autres genres musicaux, constitue un obstacle à la reconnaissance du genre en tant que forme artistique à part entière. Même les groupes de rap ayant un orchestre utilisent souvent les samples et le son des machines pour créer leurs rythmes en studio (lors de concerts, ils les recréent habituellement avec un orchestre). Le rap est l'objet d'une méprise répandue selon laquelle les samples et les boites à rythme sont des techniques pour musiciens paresseux ou encore qu'ils ne sont qu'une pâle compensation pour un « véritable » orchestre (cette considération étant d'ailleurs courante pour toute musique faisant usage de ces techniques). Dans les faits, les producteurs de rap sont souvent à la recherche d'un timbre, d'une texture et d'une fréquence précis pour leur sample et leur séquence rythmique. Un batteur jouant en direct le break de Funky Drummer de James Brown ne peut se substituer à son sample. Toutefois, on peut noter ces dernières années une tendance de retour vers les instruments originaux avec des musiciens et producteurs tels que Timbaland, Outkast, The Roots et The Neptunes. Aujourd’hui, certains rappeurs utilisent de nouveaux procédés pour enjoliver leur art. La batterie est ancrée depuis bien longtemps dans le rap, le tempo est étrangement similaire à une platine ou encore à un logiciel de percussions. Timbaland a récemment démontré, que la batterie pouvait convenir au rap, grâce à la grosse caisse et autres. Kanye West quant à lui, utilise les percussions pour son rap. Et ainsi, d'autres rappeurs vont suivre ce mouvement, celle de l'association d'instruments à percussions, qui mettent en valeur leurs origines lointaines, venant d'Afrique et autres pays colonisés.
