山濤字巨源，河內懷縣人。河內山氏乃一地方望族。
山濤，字巨源，河內懷人也。(《晉書・山濤傳》)
父親山曜，是宛句縣縣令。可惜山濤早年喪親，家中貧困。
父曜，宛句令。濤早孤，居貧。(《晉書・山濤傳》)
幸好年少的山濤有器量，獨立不群。天性喜好《莊子》、《老子》，常隱居鄉里，韜光養晦。他更與嵇康、呂安、阮籍結交，同作竹林之遊。
少有器量，介然不群。性好《莊》《老》，每隱身自晦。與嵇康、呂安善，後遇阮籍，便為竹林之交，著忘言之契。(《晉書・山濤傳》)
儘管在做人態度及性格傾向上，山濤與嵇、阮有分別。嵇康一度撰《與山巨源絕交書》，跟山濤絕交。
山濤將去選官，舉康自代。康乃與濤書告絕。(《晉書・嵇康傳》)
不過，嵇康被誣陷至死，臨刑前，仍把兒子嵇紹交託給山濤，且說：「巨源在，汝不孤矣。」他對這位已絕交的朋友的為人始終信任。
康後坐事，臨誅，謂子紹曰：「巨源在，汝不孤矣。」(《晉書・山濤傳》)
山濤四十歲才進入仕途，其對昏亂的政局似乎有一種高度的靈敏。
濤年四十，始為郡主簿、功曹、上計掾。舉孝廉，州辟部河南從事。(《晉書・山濤傳》)
與石鑒共宿，濤夜起蹴鑒曰：「今為何等時而眠邪！知太傅臥何意？」鑒曰：「宰相三不朝，與尺一令歸第，卿何慮也！」濤曰：「咄！石生無事馬蹄間邪！」投傳而去。未二年，果有曹爽之事，遂隱身不交世務。(《晉書・山濤傳》)
當時，太傅司馬懿稱病卧床，實際是以退為進，令政敵曹爽疏於防備，伺機殺他一個措手不及。山濤心細如塵，知道司馬懿的圖謀，馬上丢掉官吏用的信符跑了，跟曹魏政權保持距離。果然不到兩年，司馬懿就藉高平陵政變殺死曹爽。
山濤隱居避世，主要是為了遠離中央的權力鬥爭。奈何其身份 - 司馬懿夫人張春華的中表親使他不能脫離司馬氏陣營，他卒之選擇加入其中，獲司馬師、司馬昭重視。
與宣穆后有中表親，是以見景帝 (司馬師)。帝曰：「呂望欲仕邪？」命司隸舉秀才，除郎中。轉驃騎將軍王昶從事中郎。久之，拜趙國相，遷尚書吏部郎。文帝 (司馬昭) 與濤書曰：「足下在事清明，雅操邁時。念多所乏，今致錢二十萬、穀二百斛 (足下任職清明，高雅之操超群出世。顧念家中貧乏，今送去錢二十萬，谷二百斛)。」魏帝嘗賜景帝春服，帝以賜濤。又以母老，並賜藜杖一枚。(《晉書・山濤傳》)
山濤客觀中立，各不得失，左右逢源的處事作風，尤其令他在官場上屹立不倒。
晚與尚書和逌交，又與鍾會、裴秀並申款昵。以二人居勢爭權，濤平心處中，各得其所，而俱無恨焉。遷大將軍從事中郎。(《晉書・山濤傳》)
鍾會在四川作亂，司馬昭領兵討伐。他在出發前對山濤說：「西偏吾自了之，後事深以委卿 (西邊的事我親自去處理，後方的事誠心委托於你)。」可見山濤在司馬氏陣營中地位重要。
鍾會作亂於蜀，而文帝將西征。時魏氏諸王公並在鄴，帝謂濤曰：「西偏吾自了之，後事深以委卿。」以本官行軍司馬，給親兵五百人，鎮鄴。(《晉書・山濤傳》)
司馬炎被立為皇太子，山濤亦有份促成。
咸熙初，封新沓子。轉相國左長史，典統別營。時帝以濤鄉閭宿望，命太子拜之。帝以齊王攸繼景帝后，素又重攸，嘗問裴秀曰：「大將軍開建未遂，吾但承奉後事耳。故立攸，將歸功於兄，何如？」秀以為不可，又以問濤。濤對曰：「廢長立少，違禮不祥。國之安危，恆必由之。」太子位於是乃定。太子親拜謝濤。及武帝受禪，以濤守大鴻臚，護送陳留王詣鄴。泰始初，加奉車都尉，進爵新遝伯。(《晉書・山濤傳》)
值得注意是「廢長立少，違禮不祥」，山濤並未對傳統儒家禮教鄙棄、蔑視，不如嵇康說「越名教而任自然」、阮籍說「禮豈為我設耶！」。
羊祜執政時，有人要陷害裴秀，山濤出言保護裴秀，得罪了一些權臣，被外調為冀州刺史，加甯遠將軍 (此見山濤有直言敢諫的一面)。
及羊祜執政，時人欲危裴秀，濤正色保持之。由是失權臣意，出為冀州刺史，加甯遠將軍。(《晉書・山濤傳》)
冀州風俗鄙薄，無推賢薦才之風。山濤鑒別選拔隱逸之士，查訪賢人，表彰或任命三十多人，皆顯名於當世。山濤因而受到百姓士人仰慕推崇，當地風俗亦為之改變。
冀州俗薄，無相推轂。濤甄拔隱屈，搜訪賢才，旌命三十餘人，皆顯名當時。人懷慕尚，風俗頗革。(《晉書・山濤傳》)
在冀州立下的功績終於令山濤得以重返中央權力核心。然而，此時的山濤已有退出官場的念頭，屢次上表請求辭職。
轉北中郎將，督鄴城守事。入為侍中，遷尚書。以母老辭職，詔曰：「君雖乃心在於色養，然職有上下，旦夕不廢醫藥，且當割情，以隆在公 (君雖心在奉養老母，然而職務有上下公私之分，家中早晚有人侍奉醫藥，君當暫割情愛，以興一心在公之德)。」濤心求退，表疏數十上，久乃見聽。(《晉書・山濤傳》)
晉武帝雖答應山濤的請求，其仍對山濤禮遇有加。山濤清貧儉約，無法供養家人，武帝特別派人每日供給膳食，加賜床帳被褥。
除議郎，帝以濤清儉無以供養，特給日契，加賜床帳茵褥。禮秩崇重，時莫為比。(《晉書・山濤傳》)
山濤萌生退意，一半是自己身體健康下降，患有疾病；一半是對年老的母親有真誠的孝敬之情。
後除太常卿，以疾不就。(《晉書・山濤傳》)
會遭母喪，歸鄉里。濤年逾耳順，居喪過禮，負土成墳，手植松柏。(《晉書・山濤傳》)
可惜武帝盛意拳拳，加上武元皇后楊艷逝世，她死前擔心妖媚的胡貴嬪繼為皇后，一旦誕下兒子，將威脅太子司馬衷 (晉惠帝) 的地位。基於對晉室大局的維護，山濤勉為其難就任吏部尚書，前後薦拔的人遍及京師和州郡，都是有用的人才。
詔曰：「吾所共致化者，官人之職是也。方今風欲陵遲，人心進動，宜崇明好惡，鎮以退讓。山太常雖尚居諒闇，情在難奪，方今務殷，何得遂其志邪！其以濤為吏部尚書 (我所以行教化於天下，是靠授賢者以官職。當今風俗衰敗，人心尚於競進，應當分明善惡，以退讓之風鎮之。山太常雖在居喪，意志不可勉強改變，而當今國家任務繁多，怎能遂自己心願呢！現以山濤為吏部尚書)。」濤辭以喪病，章表懇切。會元皇后崩，遂扶興還洛。逼迫詔命，自力就職。前後選舉，周遍內外，而並得其才。(《晉書・山濤傳》)
山濤還轉升太子少傅。左丞相白褒批評他，武帝一於少理。
咸甯初，轉太子少傅，加散騎常侍；除尚書僕射，加侍中，領吏部。固辭以老疾，上表陳情。章表數十上，久不攝職，為左丞白褒所奏。
帝曰：「濤以病自聞，但不聽之耳。使濤坐執銓衡則可，何必上下邪！不得有所問 (山濤因病自求辭職，只是沒有聽從他的要求罷了。如山濤用人不當而坐罪是可以的，何必上下動手，顛倒輕重呢？不得再追究此事)。」
濤不自安，表謝曰：「古之王道，正直而已。陛下不可以一老臣為加曲私，臣亦何必屢陳日月。乞如所表，以章典刑 (自古以來行王道者，守正而已。陛下不能因為一個老臣而改變國法，臣有何心向皇上陳辭。請照白褒所上之表處置，以顯示不枉刑法)。」
帝再手詔曰：「白褒奏君甚妄，所以不即推，直不喜凶赫耳。君之明度，豈當介意邪！便當攝職，令斷章表也 (白褒所奏是虛妄的，我所以未追究他的責任，是我不喜歡動辄發怒，你是明智而有度之人，哪能介意呢！應當就職理事，不讓他們再上章表就是了)。」
濤志必欲退，因發從弟婦喪，輒還外舍。
詔曰：「山僕射近日暫出，遂以微苦未還，豈吾側席之意。其遣丞掾奉詔諭旨，若體力故未平康者，便以輿車輿還寺舍 (山仆射近日暫時出居，因有所操勞而未還，這不是我坐側席而待賢的意思。現派遣丞掾奉旨告諭，若身體尚未康復，便坐輿車抬回府寺)。」濤辭不獲已，乃起視事。(《晉書・山濤傳》)
山濤進行銓選，有自己一套準則，即使武帝出言告誡，他仍舊依然故我。
濤再居選職十有餘年，每一官缺，輒啟擬數人，詔旨有所向，然後顯奏，隨帝意所欲為先。故帝之所用，或非舉首，眾情不察，以濤輕重任意。或譖之於帝，故帝手詔戒濤曰：「夫用人惟才，不遺疏遠單賤，天下便化矣 (用人的標準是有才，不遺漏疏遠孤賤而有才的人，教化才能行於天下)。」而濤行之自若，一年之後眾情乃寢。濤所奏甄拔人物，各為題目，時稱《山公啟事》。(《晉書・山濤傳》)
「夫用人惟才，不遺疏遠單賤，天下便化矣」內含深意，反映山濤選人傾向：
a. 用門閥貴族的子弟；
b. 講究遠近親疏，用人唯親。
門閥政治的出現，「上品無寒門」的造成，竊以為跟山濤有關。當然，山濤這樣做，旨在維護西晉的立國精神，即捍衛儒家豪族的既得利益。
楊艷堂妹楊芷繼為皇后，后父楊駿擅權專政，建立黨羽勢力。山濤看不過眼，多次諷諫武帝，武帝領悟其意，卻不能改正。山濤於是以年邁病重，上疏告退。
濤中立於朝，晚值后黨專權，不欲任楊氏，多有諷諫，帝雖悟而不能改。後以年衰疾篤，上疏告退曰：「臣年垂八十，救命旦夕，若有毫末之益，豈遺力於聖時，迫以老耄，不復任事。今四海休息，天下思化，從而靜之，百姓自正。但當崇風尚教以敦之耳，陛下亦復何事。臣耳目聾瞑，不能自勵。君臣父子，其間無文，是以直陳愚情，乞聽所請 (臣年近八十，苟延殘喘於旦夕，若對國家還有毫末之益，怎能留餘力於盛世。迫於衰老，不能再負重任。當今四海無事，天下思從教化，從民心而行無為之政，百姓自能正己。只是應當崇尚風教以使民俗歸厚罷了，陛下又有何事可做。臣耳聾目昏，無力奮進。君臣父子之間無須掩飾，因而直陳愚情，望答應我的請求)。」乃免冠徒跣，上還印綬。(《晉書・山濤傳》)
山濤當時將近八旬，古人來說年紀算是不輕了，要求退職十分正常。
武帝一再挽留，是出於管治上的需要，「方今風欲陵遲，人心進動，宜崇明好惡，鎮以退讓」、「天下事廣，加吳土初平，凡百草創，當共盡意化之 (統一政權處於草創階段，太多問題需要處理)」，山濤在朝能發揮大作用。
詔曰：「天下事廣，加吳土初平，凡百草創，當共盡意化之。君不深識往心而以小疾求退，豈所望於君邪！朕猶側席，未得垂拱，君亦何得高尚其事乎！當崇至公，勿復為虛飾之煩 (天下事還多，加上吳國初平，各項事業都處於草創階段，應當共同盡力以化成天下。君不識往日我留君之深意，而以小疾為由求退，這不是我希望於你的啊！朕猶坐於側席而待賢者，未得垂衣拱手而治天下，君何能引退而求高尚之名呢！應當倡導至公無私之心，不要再做那追求虛名的煩瑣之事)。」濤苦表請退，詔又不許。(《晉書・山濤傳》)
朝中其他大臣不明白箇中內情，批評山濤「無專節之尚，違在公之義」，「不宜居位」。這既冤屈了山濤，亦令武帝更難達成目標 (挽留山濤)，故此，武帝說「主者既不思明詔旨，而反深加詆案。虧崇賢之風，以重吾不德，何以示遠近邪 (主事者不明詔書深意，反而加以曲解，這有損於崇賢之風，給我加上輕賢無德之名，怎能給遠近之人做出表率呢)！」
尚書令衛瓘奏：「濤以微苦，久不視職。手詔頻煩，猶未順旨。參議以為無專節之尚，違在公之義。若實沈篤，亦不宜居位。可免濤官 (山濤因有小疾，久不履職。頻繁下詔，還不服從詔命。朝中議論以為這樣不能成全他的高尚之節，也違背在職為公的要求。若山濤病情沉重，也不宜居官位。可免去山濤官職)。」
中詔瓘曰：「濤以德素為朝之望，而常深退讓，至於懇切。故比有詔，欲必奪其志，以匡輔不逮。主者既不思明詔旨，而反深加詆案。虧崇賢之風，以重吾不德，何以示遠近邪 (山濤有德操，素為眾望所歸，而深心退讓，十分懇切。故連續下詔，必求改變他的主張，以匡扶朝廷，彌補缺漏。主事者不明詔書深意，反而加以曲解，這有損於崇賢之風，給我加上輕賢無德之名，怎能給遠近之人做出表率呢)！」濤不得已，又起視事。(《晉書・山濤傳》)
山濤為人是重情義的，武帝對他敬重、信任，他也不願拂逆武帝的意思。他後來想再辭官，武帝依然不允許。
太康初，遷右僕射，加光祿大夫，侍中、掌選如故。濤以老疾固辭，手詔曰：「君以道德為世模表，況自先帝識君遠意。吾將倚君以穆風俗，何乃欲舍遠朝政，獨高其志耶！吾之至懷故不足以喻乎，何來言至懇切也。且當以時自力，深副至望。君不降志，朕不安席 (君之道德為世人楷模，況先帝已識君高遠之志。我將依靠你以使風俗淳厚，為何要捨棄朝政以求高名呢！我的至誠之心還不足以使你明白嗎？為何上表的言論是那樣懇切。應當及時自勉，以慰我深切之望。你不改變引退之志，朕將卧不安席)。」濤又上表固讓，不許。(《晉書・山濤傳》)
針對武帝「詔天下罷軍役，示海內大安，州郡悉去兵，大郡置武吏百人，小郡五十人」，山濤期期以為不可，苦口婆心地申說「不宜去州郡武備」，時人以為山濤雖不學孫、吳兵法，而其論兵暗與兵法合。
吳平之後，帝詔天下罷軍役，示海內大安，州郡悉去兵，大郡置武吏百人，小郡五十人。帝嘗講武於宣武場，濤時有疾，詔乘步輦從。因與盧欽論用兵之本，以為不宜去州郡武備，其論甚精。於時咸以濤不學孫、吳，而暗與之合。帝稱之曰：「天下名言也。」而不能用。(《晉書・山濤傳》)
不幸武帝未有採用，「八王之亂」爆發，地方無力應對、解決，對晉室管治構成極大傷害。假如山濤之言被採用，西晉未必會元氣大傷。
及永寧之後，屢有變難，寇賊猋起，郡國皆以無備不能制，天下遂以大亂，如濤言焉。(《晉書・山濤傳》)
武帝不久拜山濤為司徒，山濤堅決辭讓，太康四年 (公元 283 年)，山濤病逝，終年七十九歲。
後拜司徒，濤復固讓。
詔曰：「郡年耆德茂，朝之碩老，是以授君台輔之位。而遠崇克讓，至於反覆，良用於邑。君當終始朝政，翼輔朕躬 (君年邁而德高，是朝中元老，因而授給君台輔之位，而君崇謙讓之遠名，反複推辭，令我心中憂慮。君當堅持始終，輔助朕身)。」
濤又表曰：「臣事天朝三十餘年，卒無毫釐以崇大化。陛下私臣無已，猥授三司。臣聞德薄位高，力少任重，上有折足之凶，下有廟門之咎，願陛下垂累世之恩，乞臣骸骨 (臣侍奉天朝三十餘年，對德政教化無毫厘功效。陛下私心愛臣不已，枉授三司之任。臣聞德薄而位高，力少而任重，則上有敗壞國事之禍，下有損傷家廟祖宗之咎。願陛下念累世君臣之恩，乞求骸骨以歸故里)。」
詔曰：「君翼贊朝政，保乂皇家，匡佐之勳，朕所倚賴。司徒之職，實掌幫教，故用敬授，以答群望。豈宜沖讓以自抑損邪 (君輔助朝政，保護治理皇家，匡扶之功，為朕所依賴。司徒之職，實掌國家教化，因而敬授予你，以滿足群臣百姓之望，怎能只顧謙讓而貶低自己呢)！」
已敕斷章表，使者乃臥加章綬。
濤曰：「垂沒之人，豈可污官府乎 (將死之人，怎能玷污官府呢)！」輿疾歸家。
乙太康四年薨，時年七十九，詔賜東園秘器、朝服一具、衣一襲、錢五十萬、布百匹，以供喪事，策贈司徒，蜜印紫綬，侍中貂蟬，新遝伯蜜印青硃綬，祭乙太牢，諡曰康。將葬，賜錢四十萬、布百匹。左長史范晷等上言：「濤舊第屋十間，子孫不相容。」帝為之立室。(《晉書・山濤傳》)
驟眼看來，山濤是司馬氏的股肱之臣，司馬氏非常信任及尊敬山濤。然而，仔細觀之，實情未必如此。
請看司馬炎幾句話：
「君雖乃心在於色養，然職有上下，旦夕不廢醫藥，且當割情，以隆在公」
此等於怪責山濤公私不分，以私廢公，對山濤有強烈的喪母之情完全不體諒、不了解。
「吾所共致化者，官人之職是也。方今風欲陵遲，人心進動，宜崇明好惡，鎮以退讓。山太常雖尚居諒闇，情在難奪，方今務殷，何得遂其志邪！」
挽留山濤不是要用他的卓見治國 (從武帝拒聽不撤州郡武備可知)，而是擺他出來作個模範，讓天下士子不復競進，這對年老患病兼喪母的人都算可憐！
「君以道德為世模表，況自先帝識君遠意。吾將倚君以穆風俗，何乃欲舍遠朝政，獨高其志耶！」
特別留意「獨高其志」，原來在武帝眼中，山濤屢次求退，都是「獨高其志」，他有理會過山濤的身體健康狀況及心靈狀態適合繼續留在朝廷嗎？
晉武帝非真賞識山濤者，亦對山濤內心無真正的了解。
山濤為人如何，「會遭母喪，歸鄉里。濤年逾耳順，居喪過禮，負土成墳，手植松柏」，此跟阮籍聽到母親去世吐血數升的情感，本質上是一樣的，都是真誠的孝親之情。為抒發此一真誠的孝親之情，不惜以私廢公。晉武帝不容以私廢公，這是儒門的共識。山濤守不下去，屢求辭職，這某程度上也是一種「越名教而任自然」。從此處切入去看，山濤何以跟嵇、阮結交，嵇康死前為何把兒子交託給山濤，就通盤可以理解了。山濤雖是一儒臣模樣，但骨子裡畢竟是「竹林七賢」的一分子。
受益於出身背景，山濤不用如阮籍般擔驚受怕，心理較健康。可是，做著不願做的俗務至死，其實也相當可悲。
關於山濤為人，尚有兩點補充。
他並未因富貴而奢侈揮霍，貪財好色，拋棄糟糠，品格極為高尚。
初，濤布衣家貧，謂妻韓氏曰：「忍饑寒，我後當作三公，但不知卿堪公夫人不耳！」及居榮貴，貞慎儉約，雖爵同千乘，而無嬪媵。祿賜俸秩，散之親故。(《晉書・山濤傳》)
初，陳郡袁毅嘗為鬲令，貪濁而賂遺公卿，以求虛譽，亦遺濤絲百斤，濤不欲異於時，受而藏於閣上。後毅事露，檻車送廷尉，凡所以賂，皆見推檢。濤乃取絲付吏，積年塵埃，印封如初。(《晉書・山濤傳》)
飲酒方面，也不如劉伶、阮籍般放縱無節制。
濤飲酒至八斗方醉，帝欲試之，乃以酒八斗飲濤，而密益其酒，濤極本量而止。(《晉書・山濤傳》)
