Clădirea impunătoare, declarată monument de arhitectură, a fost construită în stil neo-brâncovenesc după proiectul renumitului arhitect Victor Ștefănescu la începutul secolului XX și a fost destinată inițial găzduirii Institutului Geologic.
Carol I a semnat în 1906 decretul regal de înființare a institutului, act care poate fi văzut, în original, chiar în holul de la intrare al muzeului.
Deschiderea oficială a Muzeului Geologic s-a făcut în aprilie 1990. În prezent, muzeul este o secție a Institutului Geologic al României, iar oamenii care lucrează aici sunt în marea majoritate geologi.