歷奧托二世、三世至亨利二世，無子嗣，薩克森王朝 (Saxon dynasty，又名奧托王朝 Ottonian dynasty) 結束，康拉德二世被推舉為國王，開始薩利安王朝 (Salian dynasty，又名法蘭克尼亞王朝 Frankish dynasty)。
薩利安王朝傳至亨利四世，發生敘任權鬥爭。教皇格雷高里七世 (Pope Gregory VII) 堅持教皇權力是唯一的普世權力，教皇可獨自任命或免去教會人員之職。亨利四世不同意，覺得由神委派的最高統治者有權任命教會聖職。雙方發生矛盾。最後，亨利五世 (亨利四世次子) 和教皇嘉禮二世 (Pope Callixtus II) 達成《沃爾姆斯宗教協定》(Concordat of Worms)，國王被承認在其統治區內享有以世俗權威而非神聖權威敘任主教之權利。主教要同時效忠教皇和國王。
亨利五世死，洛泰爾二世被擁立。然而，洛泰爾二世偏愛的繼承人並未繼洛泰爾二世成為新國王，反而一位薩利安家族的近親 - 康拉德三世繼位。康拉德三世屬於霍亨斯陶芬家族，創立霍亨斯陶芬王朝 (Hohenstaufen dynasty，又名士瓦本王朝)。
霍亨斯陶芬王朝第二任國王是腓特烈一世。他一方面試圖確立皇權，使之獨立於教權；一方面派兵入侵意大利 (曾進行過五次軍事侵略)。腓特烈一世的綽號是紅鬍子，相傳他在意大利濫殺無辜，意大利人的血染紅他的鬍子。1190 年，腓特烈一世在第三次十字軍東征期間去世，兒子亨利六世繼位，霍亨斯陶芬王朝統治達到鼎峰。
亨利六世通過聯姻將諾曼人的西西里王國納入自己的統治範圍，同時俘虜了英格蘭國王獅心王理查。他死後，王位繼承出現紛爭，教皇英諾森三世 (Pope Innocent III) 支持亨利六世的兒子、西西里國王腓特烈 (他的母親是西西里王國唯一的女繼承人) 做神聖羅馬帝國皇帝。1220 年，腓特烈加冕。
腓特烈二世與教皇的衝突日益嚴重，教皇支持腓特烈二世的獨生子亨利反叛。1250 年，腓特烈二世逝世，康拉德四世接管神聖羅馬帝國和西西里王國。康拉德在位四年卒，帝國進入空位期 (Interregnum)。
空位期由哈斯堡 (Habsburg) 家族的魯道夫一世登基而結束。魯道夫一世積極對外擴張，把地域廣闊的奧地利變成哈斯堡家族的世襲領土。
可惜好景不常，1618 年 6 月 26 日，神聖羅馬帝國境內發生反對哈斯堡家族及天主教皇帝的戰爭，歷時三十年 (史稱「三十年戰爭」)。哈斯堡家族戰敗，簽訂《西發里亞和約》(又名《威斯特伐利亞和約》 Peace of Westphalia)，皇權進一步削弱，管治日益艱難。
法國大革命爆發，神聖羅馬帝國多次組建反法同盟，遏止法國革命浪潮蔓延。三皇會戰結束，拿破崙成立萊茵邦聯 (Confederation of the Rhine)，要求弗朗茨二世解散神聖羅馬帝國，並放棄神聖羅馬皇帝的帝號。1806 年 8 月 6 日，弗朗茨二世僅保留奧地利帝國的帝號，神聖羅馬帝國正式滅亡。
伏爾泰曾評價神聖羅馬帝國：「既不神聖，也不羅馬，更非帝國。」
1198 年，條頓騎士團 (Teutonic Knights，又名德意志騎士團，由德意志地區的騎士組成) 成立。條頓騎士團在普魯士 (原本是一塊蠻荒之地，居民為古普魯士人，所使用的普魯士語屬於波羅的語族，與拉脫維亞人和立陶宛人屬於同一種族) 地區發動為時近二百年的東征運動，迫使普魯士人改宗天主教，使用德語。普魯士人逐漸同化於德意志人，所使用的普魯士語也慢慢消失。
