İlk tahsil hayatına Tûs'ta başlamış, ilk fıkıh bilgilerini burada hocası Ahmed bin Muhammed er-Râzkânî'den almıştır. 
Daha sonra Cürcân'a ve oradan da tahsilini ilerletmek için Nîşâbur'a gitmiştir. Nîşâbur'da zamanın âlimlerinden İmâmü'l-Haremeyn el-Cüveynî'den ders almıştır. Buradaki tahsilini de tamamladıktan sonra ilmî noktada temayüz eden Gazâlî, ünlü vezir Nizâmülmülk'ün yanına gidip bir müddet kaldıktan sonra 484'te (1091) Bağdat'taki Nizamiye Medresesi'nin baş müderrisliğine tayin edilmiştir. 
Burada, gerek Selçuklu devlet büyüklerinin ve gerekse genel halk kitlelerinin teveccühüne mazhar olan Gazâlî, geniş şöhretine ve maddî imkânlara rağmen bu halinden derin bir rahatsızlıkla ve ruh haleti üzerinde meydana gelen dalgalanmalarla derslerini bıraktı, talebelerle ilişiğini kesti. Elde ettiği bilgiler ve dünyevî makamlar kendi ruhunun ve kalbinin açlığını doyurmaya yetmedi. 
Kendi ifadelerinden öğrendiğimize göre Bağdat'taki bu dört yıllık müderrislik hayatından sonra Şam, Kudüs, Mekke, Medine ve Tûs'ta geçen on bir senelik bir inziva hayatı vardır ki Gazâlî’yi Gazâlî yapan da asıl bu yıllardır. 
499 (1106) yılında Nîşâbur'da tekrar tedris hayatına başladı. Bu ikinci tedris dönemi de uzun sürmedi. Tûs'ta evinin yanına bir medrese ve bir tekke yaptırdı. 505 (1111) yılında vefat edinceye kadar hakikat ilimlerinin öğrenim ve öğretimiyle uğraştı. Geriye bir insan ömrüne sığması güç sayıda pek çok eser bıraktı ve yüzyıllardır manevî irşadını devam ettirip bütün İslâm âleminin muhabbet ve duasına nail oldu. Bu sebeple "Hüccettü'l-İslâm" namına lâyık görüldü.