Esialgne Rubiku kuubik oli valmistatud puidust ja see oli värvitu. Kuubiku leiutas ja pani kokku 1974. aastal Ungari disainer ja arhitekt Ernő Rubik. Tollane nn võlukuubik ei sarnanenud kuigi palju selle Rubiku kuubikuga, mida 1980ndate aastate lapsed tundma hakkasid. Legend räägib, et kuubiku koodi lahti murdmiseks kulus Rubikul endal kuu aega.
Värviline Rubiku kuubik hakkas maailmas levima 1980ndatel aastatel, kui Ameerika firma Ideal Toys selle õigused ostis. Rubiku kuubikust sai koheselt hitt.
Aastatel 1980-1983 müüdi maailmas umbes 200 miljonit Rubiku kuubikut. Esimesed Rubiku kuubiku võistlused korraldati 1981. aastal Nürnbergis, kus võisteldi kiiruse peale kuubiku kokkupanekul. Üle maailma ilmus arvukalt raamatuid kuubiku lahendamise juhistega ja paljud neist jõudsid enimmüüdud raamatute edetabelitesse.
Kuubikupalavik lõppes aga sama kiiresti kui oli alanud. 1983. aasta lõpus kukkusid müüginumbrid kokku ja järgmisel aastal Rubiku kuubik enamjaolt unustati.
Kakskümmend aastat hiljem tegi Rubiku kuubik comeback´i ja selle eest peab tänama internetti –väike seltskond Rubiku kuubiku entusiaste hakkas oma lehtedel jagama erinevaid juhiseid kuubiku lahendamiseks.
Eraldi äramärkimist väärib Tšehhi päritolu Jessica Fridrichi meetod, mille ta avaldas 1996. aastal. See võimaldas Rubiku kuubikut kiiresti lahendada ja nii hakkasid entusiastid omavahel kiiruse peale võistlema. 2003. aastal korraldati Kanadas Torontos rahvusvaheline kiirusvõistlus ning järgmisel aastal asutati rahvusvaheline organisatsioon World CubeAssociation.
Aastatel 2004-2007 korraldati üle saja kiirusvõistluse. Võistlusklasse oli mitu: Rubiku kuubiku lahendamine ühe käega, lahendamine ainult jalgade abil või pimelahend, kus võistleja näeb ainult stardiolukorda, kuid lahendab kuubiku nägemata.
2000. aastal lõppes Rubiku kuubiku patendi kehtivus ja sellest ajast alates on turule ilmunud hulgaliselt erinevaid originaalkuubiku versioone. Need võivad olla kolmnurksed või hulknurksed ja neil võib olla rohkem väikeseid kuubikuid kui originaalil.