Ob rojstvu mu je oče dal ime Rolihlahla Mandela. V jeziku xhosa, enem od uradnih jezikov v Južnoafriški republiki, Rolihlahla pomeni »obešanje na vejo drevesa« oz. naj bi pomenilo nekoga, ki pogosto zaide v težave.

Ime Nelson se ga je prijelo v osnovni šoli. Ime naj bi mu že prvi šolski dan v vasici Qunu nadela njegova učiteljica, gospa Mdingane, vendar ni znano, zakaj je izbrala ta vzdevek. To se je zgodilo v 20-ih letih prejšnjega stoletja in v tistem času je bilo običajno, da so afriškim otrokom nadeli angleška imena, da bi jih britanski kolonialisti lažje izgovarjali. Pri 16-ih je bil Mandela, tako kot ostali dečki iz njegovega plemena, formalno posvečen v moškost s posebnim tradicionalnim obredom. Takrat so mu nadeli ime Dalibhunga, kar pomeni »ustvarjalec, ustanovitelj skupščine« ali »začetnik dialoga«.

Veliki Mandela

V Južnoafriški republiki Mandelo najpogosteje imenujejo Madiba, po imenu klana Thembu, ki mu pripada. Madiba je bilo ime vodje klana Thembu, ki je vladal jugovzhodni regiji Južnoafriške republike, imenovani Transkei. To, da Mandelo kličejo Madiba, je znak občudovanja in spoštovanja. In glede na to, da naj bi bil oče demokracije v Južni Afriki, Mandelo pogosto imenujejo tudi Tata, kar je beseda za očeta v jeziku xhosa. Omenjeni jezik pa ponuja še eno besedo, s katero izražajo naklonjenost do Mandele. Ta beseda je Khulu, ki je okrajšava besede uBawomkhulu in pomeni dedek. Ta beseda hkrati pomeni tudi »veliki, pomembni, veličastni«.