1883 yılında Erzincan’ın Kemaliye ilçesinde doğdu. Yüksek Öğretmen Okulu Fen Şubesinden mezun olduktan sonra Lozan Üniversitesi Tabiiyat Bölümünü bitirdi. Özel olarak Arapça, Farsça ve Fransızca öğrendi.
Kıbrıs İdadisi’nde öğretmenlik, Midilli İdadisi, İzmir ve Gelenbevi Liseleri müdürlüklerinde bulundu. 1915 yılında İstanbul Darülfünun Edebiyat Fakültesi Türk Tarihi ve İslâm Kavimleri Tarihi Müderrisi tayin edildi. Süleymaniye Medresesi’nde Dinler Tarihi ve İslâm Felsefesi okuttu. 1924 yılında İlahiyat Fakültesi’nin kuruluşunda bu fakültenin başına getirildi.
1915 yılında Ertuğrul Sancağı (Bursa)’ndan Bilecik Mebusu seçilerek siyasî hayata atılmıştır. Mütareke günlerinde İstanbul Darülfünûnu’nda millî davayı kuvvetle savunan ve gençlere yol gösteren hocalardan biri olmuştur. Ankara’da millî hükümet kurulduktan sonra, İstanbul Belediye Meclisi’nde üyelik ve başkan vekilliği yaptı. Bu arada, Anadolu ve Rumeli Müdafaa-i Hukuk Cemiyeti’nde görev aldı.
1923-1950 yılları arasında Sivas, 1950-1954 yılları arasında Erzincan Milletvekilliği yapan Şemsettin Günaltay, 1949’da Hasan Saka’nın istifası üzerine 18. Türkiye Cumhuriyeti Hükümetini kurmuş ve Demokrat Parti iktidarına kadar da Başbakanlık görevini sürdürmüştür.
Cumhuriyet Halk Partisi İstanbul İl Başkanlığı ve Kurucu Meclis Üyeliği de yapan Günaltay, 1961 yılında İstanbul Senatörü seçildi, ancak aynı yıl vefat etti. 1941’den ölümüne kadar Türk Tarih Kurumu’nun Başkanlığını sürdürmüştür.