Źródeł piłki ręcznej należy szukać w dalekiej przeszłości. Gry takie jak: urania w starożytnej Grecji, herpastum w starożytnym Rzymie czy fangballspiel w średniowiecznych Niemczech, były zbliżone do współczesnej piłki ręcznej. Są także świadectwa istnienia zbliżonych gier w średniowieczu: we Francji oraz pośród grenlandzkich Inuitów.
W XIX wieku, istniały również podobne gry: haandbold w Danii, hazena w Czechach i na Słowacji, gandbol na Ukrainie, torball w Niemczech i lokalne wersje w Irlandii i Urugwaju.
Współczesna piłka ręczna uformowała się pod koniec XIX wieku w północnej Europie, głównie w Danii, Niemczech, Norwegii i Szwecji. Duńczyk HolgerNielsen spisał pierwsze zasady i reguły nowoczesnej piłki ręcznej (håndbold) w 1898 roku (opublikował je w roku 1906) – m.in. 3 sekundy na przetrzymanie piłki czy zakaz biegania z piłką. Kolejny zbiór zasad gry został opublikowany 29 października 1917 roku przez Maxa Heisera. W jego założeniu miała to być gra dla kobiet, bardziej dla nich przyjazna niż nowo powstała wówczas „męska” piłka nożna. Datę tę przyjmuje się za narodziny piłki ręcznej. W roku 1919 zasady gry zostały rozwinięte przez Carla Schelenza, który wprowadził przepisy uatrakcyjniające tę dyscyplinę dla mężczyzn. Pierwszy mecz międzypaństwowy rozegrano 13 września 1925 roku w Halle: Niemcy – Austria 6:3. Podczas igrzysk olimpijskich w Amsterdamie w 1928 roku, powstała pierwsza Międzynarodowa Federacja Amatorskiej Piłki Ręcznej (IAHF). Pierwsze mistrzostwa świata drużyn męskich 7- (tzw. wersja duńska) i 11-osobowych (tzw. wersja niemiecka) rozegrano w 1938 roku w Niemczech. W obu kategoriach zwyciężyli gospodarze. Mistrzostwa świata kobiet rozgrywane są natomiast od 1957 roku.
Przez kilkanaście lat obie formy piłki ręcznej istniały obok siebie, jednak gra z udziałem 11 zawodników stopniowo zanikała, a dzisiejsza wersja rozgrywana przez 7 graczy stawała się coraz bardziej popularna. Podczas Letnich Igrzysk Olimpijskich w Berlinie w 1936 roku, na życzenie Adolfa Hitlera, przeprowadzono po raz pierwszy i jedyny zawody piłki ręcznej na stadionie otwartym. Rozgrywane one były na zewnątrz, na boisku o wymiarach 90-100 × 55-65 metrów, ta odmiana piłki ręcznej nosiła nazwę Feldhandball. Ostatni mecz reprezentacji Niemiec zgromadził 100 tys. widzów, co jest do dzisiaj rekordem frekwencji na meczu piłki ręcznej. Ostatnie mistrzostwa w Feldhandballu odbyły się w roku 1976.
W Polsce sport w wersji niemieckiej (11-osobowej) zaczął być uprawiany w 1917 w Szczypiornie (obecnej dzielnicy Kalisza) przez oficerów I i III brygady Legionów Polskich internowanych po kryzysie przysięgowym, stąd pochodzi nazwa szczypiorniak (nazwa ta jest rzadziej stosowana do obecnej wersji 7-osobowej – inne zasady gry, boisko itp.). Wersja najbardziej rozpowszechniona mówi, że legioniści nauczyli się grać od niemieckich wartowników – ale nie ma na nią dowodów we wspomnieniach, można za to przeczytać, że „leguny wykombinowali nową grę”. Piłka ręczna pojawiła się na przełomie XIX i XX w. w Niemczech i w Danii. Możliwe jest, że któryś z legionistów podpatrzył ją właśnie tam. We wspomnieniach pojawia się nazwisko majora Grzmota-Skotnickiego, który miał zainicjować grę w Szczypiornie, ale też kaprala Antoniego Jarząbka. Gra rozpowszechniła się potem wśród żołnierzy Batalionu Pogranicznego, którzy w 1918 r. zdobyli koszary w Szczypiornie i tam stacjonowali. Za rok narodzin piłki ręcznej w Polsce uznaje się rok 1918. Reprezentantem polskiej piłki ręcznej jest od 1928 roku Związek Piłki Ręcznej w Polsce.
W 1946 roku powołano International Handball Federation (IHF), która kieruje obecnie rozwojem dyscypliny. Piłka ręczna (7-osobowa) powróciła do programu podczas Igrzysk Olimpijskich w Monachium w 1972 roku, kobiety startują na igrzyskach olimpijskich od 1976 roku.
Według danych IHF z grudnia 2006 roku, zrzesza ona 159 federacji krajowych reprezentujących 1 130 000 zespołów i 31 milionów graczy, trenerów, działaczy sportowych i sędziów.