自唐憲宗開始，「牛李黨爭」即出現，持續了將近四十年。
元和三年 (公元 808 年)，長安舉行進士試。舉人牛僧孺 (隋代僕射牛弘的後代)、李宗閔等因詆毀時政，觸怒宰相李吉甫
(李德裕之父)。吉甫要求憲宗嚴懲兩人，牛僧孺、李宗閔最後未有被提拔。
消息傳出，朝野譁然，大臣們紛紛譴責李吉甫嫉妒賢能。憲宗只好貶吉甫為淮南節度使。自此朝中分成牛李兩黨，互相傾軋
(這段時間李德裕、牛僧孺尚未加入朝廷)。
穆宗即位，由錢徽主持新一屆進士試。錢乃牛黨人物，李宗閔之婿蘇巢登第，段文昌奏稱禮部貢舉不公，徇私舞弊。李德裕當時任職翰林學士，經過查證，發現段所言屬實，錢徽、李宗閔俱被貶外地，司馬光《資治通鑑》記曰：「德裕、宗閔各分朋黨，更相傾軋」。
陳寅恪分析牛李兩黨的階級屬性，認為：牛黨代表進士出身的官僚，李黨代表南北朝以來山東士族出身的官僚，「牛李兩黨之對立，其根本在兩晉、北朝以來山東士族與唐高宗、武則天之後由進士詞科進用之新興階級兩者互不相容」(《唐代政治史述論稿》)。
文宗大和三年 (公元 829 年)，李宗閔透過巴結宦官，當上宰相。他立即推薦牛僧孺。牛、李合力打擊李德裕，李被貶為西川 (今四川成都)
節度使。牛黨全盛。
大和五年 (公元 831 年)，李德裕擊潰吐蕃，收復維州，為牛僧孺所阻，未幾失掉。七年 (公元 833 年)
一度出任宰相，被李訓、鄭注等排擠，出為淮南節度使 (李宗閔入相)。
黨爭連年，令文宗有「去河北賊 (指河朔藩鎮)
易，去朝廷朋黨難」的感慨。宦官仇士良、魚弘志矯詔立武宗，武宗用李德裕為相，貶謫牛黨人士，李黨得勢。到宣宗即位，因不滿德裕專橫，將之貶往崖州
(今海南)。隨著李宗閔、牛僧孺、李德裕先後去世，「牛李黨爭」亦告一段落。
李德裕曾說：「臣無名第，不合言進士之非，然臣祖天寶末以仕進無他岐，勉強隨計，一舉登第，自後不於家置《文選》，蓋惡其祖尚浮華，不根藝實。然朝廷顯官須是公卿子弟，何者？自小便習舉業，目熟朝廷間事，臺閣儀範班行准則不教而自成，寒士縱有出人之才，登第之後始得一班一級，固不能熟習也。」(《舊唐書》)
進士出身的官員不熟悉實際事務，只知「工詩賦謀進取」，態度又輕浮，此或許是李黨痛惡牛黨的主因。有一鄭覃，甚至屢請罷開進士試，為文宗所婉拒：「敦厚浮薄，色色有之，進士科取人二百年矣，不可遽廢。」
李商隱得牛黨知遇之恩，卻娶李黨王茂元的閨女為妻，其終身飽受折騰，鬱鬱不得志。至於杜牧
(祖父是杜佑)，原本深受牛僧孺賞識，因牛黨失勢，李德裕不喜歡其風流倜儻、不拘小節的「浮薄」本色，遭受排擠，無所作為。
