Historický pôvod ruženca spadá do stredoveku, kedy boli žalmy v popredí modlitby. Kedy presne vznikol nevieme. Avšak biblické žalmy boli súčasne v tom čase neprekonateľnou prekážkou pre všetkých, ktorí nevedeli čítať a bola ich väčšina. Hľadal sa teda vhodný žaltár primeraný týmto ľuďom.
Našiel sa v mariánskej modlitbe, ku ktorej sa pridávali tajomstvá zo života Ježiša Krista zoradené jedno za druhým ako zrnká retiazky.
Väčšina katolíkov sa modlí ruženec. Patrí k prastarým spôsobom modlitby, ktoré nájdeme už v najranejších kresťanských dobách. Ruženec sa v jednotlivých krajinách vyvíjal rôznym spôsobom a rôznou rýchlosťou. Vplyv na to mali buď horliví ctitelia Panny Márie z radov biskupov, kňazov, laikov, ako aj rehoľníci v kláštoroch. V takomto prostredí sa zvyčajne rýchlejšie dostávala do povedomia ľudu mariánska úcta, ktorá bola spojená s jej pobožnosťami a tiež aj s modlitbou ruženca.
O sv. Pavlovi pustovníkovi sa z kresťanských dôb zachovalo rozprávanie, že si denne nazbieral do vrecka tristo kamienkov a ako sa modlil postupne kamienky jeden po druhom vyhadzoval.
Mnísi na púšti v Kelii a Sketis používali inú metódu, ale veľmi podobnú modlitbe ruženca. Každý mních mal opakovať slovo, alebo úryvky zo Svätého Písma, ktoré dostal od svojho učiteľa. Oveľa praktickejšie sa ukázalo vziať povraz s uzlíkmi. Keď sa oba konce spojili, vznikol tzv. otčenášový povraz. Postupne začali uzlíky nahrádzať zrnkami, jadierkami, perlami, drievkami ba dokonca aj drahokamami.
V prvých storočiach existencie Cirkvi mnísi, ktorí vedeli čítať, recitovali žalmy. Tí, ktorí nevedeli čítať, namiesto recitovania biblických žalmov použili modlitbu Pána - Otče náš a bratia recitovali 150 krát túto modlitbu.
Už v roku 1198 parížsky biskup pozýval veriacich, aby recitovali stopäťdesiatkrát modlitbu Zdravas spolu s Otčenášom a Verím v Boha.
„Narodeniny“ ruženca, poskladaného z meditácií – tajomstiev, tradícia pripisuje sv. Dominikovi (1170-1221), zakladateľovi rádu dominikánov. Tradícia sa opiera o legendu o jednej z vízií sv. Dominika, v ktorej sa mu zjavuje Kristus a Panna Mária, ako mu odovzdáva ruženec.
Skutočnosť, že sv. Dominik ruženec používal ako duchovnú zbraň už pri boji s heretikmi, nemožno poprieť. V roku 1213 sa datuje víťazstvo nad Albigencami vo Francúzsku. Bojoval aj proti bludnému učeniu katarov, ktorí popierali vtelenie Božieho Syna a božie materstvo Panny Márie. Dosvedčuje to aj cirkevná tradícia a zdroje bratov dominikánov.
Napriek tomu, že súčasné kritické bádania určujú ustálenie ruženca dávno pred sv. Dominikom(1170-1221), táto skutočnosť neuberá z jeho úlohy pri zrode a popularizovaní ruženca. Pramene často uvádzajú protichodné názory na jeho úlohu pri vzniku ružencovej modlitby, spomínajú sa aj iní s tým istým menom, ktorí mali veľkú zásluhu pri zdokonalení a rozšírení tejto modlitby.
Je potrebné spomenúť skutočnosť, že sa ružencová modlitba v jednotlivých krajinách vyvíjala rôznym spôsobom a rôznou rýchlosťou. Vplyv na to mali buď horliví ctitelia Matky Božej z radov laikov, kňazov, biskupov, ale aj rehoľníci v kláštoroch. V takomto prostredí sa zvyčajne rýchlejšie dostávala do povedomia ľudu mariánska úcta spojená s pobožnosťami na počesť Panny Márie a tým aj modlitba ruženca.
Jedným z významných rozširovateľov a upravovateľov ruženca, o ktorom sa zmieňujú všetky dostupné pramene, je Dominik Hélion z Pruska (1384–1460), kartuziánsky mních z Kolína. Urobil rozhodný krok k usporiadaniu a štruktúre ruženca, ktorý sa používa dodnes. Navrhol pripojiť k päťdesiatim Zdravasom rozjímanie o evanjeliových tajomstvách, pripomínajúcich radostné, bolestné a slávnostné tajomstvá.
Ďalším propagátorom ruženca bol dominikán Alan de la Roche (1428 – 1475). V roku 1470, poslušný nadprirodzenému vnuknutiu, založil v Douai vo Francúzsku prvé Ružencové bratstvo. Hovoril, že päťdesiat Zdravasov je málo, preto sa domáhal najmenej stopäťdesiatich a to s rozjímaním tajomstiev. Boli rozdelené do troch skupín: tajomstvá vtelenia, tajomstvá Kristovho utrpenia a smrti i tajomstvá oslávenia Krista a Márie.
Za zmienku stojí aj skutočnosť, že v Benátkach roku 1480 a vo Florencii v roku 1481 sa v štatútoch ružencových bratstiev hovorí už o pätnástich tajomstvách ruženca.
V roku 1476 publikuje dominikán Jakub Sprenger Štatút Ružencového bratstva pre ním založené bratstvá. Neskôr, v roku 1521, bol ruženec zjednodušený, a to dominikánom Albertom da Castelom. Castela zredukoval tajomstvá na pätnásť a odporúčal, aby dodatky slúžili ako jednoduché komentáre k tajomstvám, alebo ich pripomínali počas recitovania Zdravasov.
Je pochopiteľné, že teológia sa od počiatku zaoberá aj mariánskou úctou a obsahuje výroky o Márii, ktoré často nie sú výsledkom vedecko-náboženskej úvahy, ale prejavom náboženskej úcty.
Rozdelenie na desať Zdravasov a Otčenáš sa pripisuje kolínskemu kartuziánovi Heirichovi von Kalkar z druhej polovice 15. storočia.
V roku 1576 bol zverejnený prvý formulár votívnej svätej omše k Ružencovej Panne Márii. Približne okolo roku 1600 boli do ruženca vložené tri vzývania: viera, nádej a láska, symbolizované troma Zdravasmi.
Hoci ruženec prechádzal aj naďalej menšími zmenami, od 16.-17. storočia je možné hovoriť už o jeho dnešnej podobe.
Od roku 1716 slávi celý katolícky svet 7. október ako sviatok Ružencovej Panny Márie a október ako mesiac posvätného ruženca. Vykonané boli ešte dve úpravy a to v roku 1917, kedy sa zjavila Panna Mária vo Fatime a na záver desiatka bola pridaná modlitba: „ Ó Ježišu, odpusť nám naše hriechy...“ a ďalšia zmena, keď pápež Ján Pavol II. pridal ruženec svetla.