在抗戰時期，國民黨犧牲的最高將領是張自忠，遠在延安毛主席親筆爲他寫輓聯“盡忠報國”，共產黨犧牲的最高將領是左權，時任八路軍參謀長，毛主席曾稱讚他是“兩杆子都硬的將才”。
1942年5月，日軍對太行抗日根據地發動大規模的“掃蕩”，八路軍總部遭遇襲擊，彭德懷率部殺出了重圍，然而他的得力助手左權卻不幸犧牲，左權在指揮部隊撤退時，不幸倒在了敵人的轟炸中。
左權的犧牲地遼縣改名爲左權縣，以此紀念他，延安和太行山根據地都爲其舉行了追悼會，彭德懷在悲傷之餘，還要操心一個重大的問題，誰來接替左權擔任參謀長？彭德懷擔心萬一自己再犧牲了，前線的領導工作恐怕要出大問題。
彭德懷在經過思慮之後，向中央建議派遣林帥到前線，擔任八路軍參謀長，以林帥的才能是足以勝任的，彭德懷認爲林帥的傷已經好了，作爲一個難得的帥才，留在後方是一種浪費。
中央在接到彭德懷的建議之後，給出的恢復是林的身體沒有好完全，暫時不能勝任工作，這樣的答覆讓彭德懷有些意外，實際上當時中央有自己的考慮，其實即便林的身體沒有問題，毛主席也不會派他與彭德懷搭檔。
毛主席用人是非常高明的，深知彭德懷和林帥都是帥才，兩人獨當一面是沒有問題的，可也正是因爲兩個人太強了，反而兩人不適合在一起工作，正所謂“一山不容二虎”，就是如此。
在否決了派林帥之後，彭老總又推薦了兩個人，分別是葉劍英和滕代遠，衆所周知，葉劍英是有名的“參謀元帥”，在軍中長期擔任“參謀長”的角色，彭德懷建議葉劍英擔任八路軍參謀長肯定是選對了人。
不過對於葉劍英這樣的大才，毛主席有更重要的任命，在1942年的時候，葉劍英已經是軍委參謀長，相當於是毛主席的參謀長，如果讓葉劍英去了前線，毛主席身邊就缺少得力的助手，這是得不償失。
既然如此，那就只能選三人之中水平較差的滕代遠了，論威望和軍事指揮能力，滕代遠確實不如林、葉二位，不過在毛主席看來，滕代遠是最爲合適去給彭老總當參謀長的人。
所謂用人，就是把合適的人放在合適的位置，滕代遠就是合適當參謀長的人，早在平江起義的時候，滕代遠就和彭德懷在一起，從紅五軍團到紅三軍團，滕代遠一直是彭德懷的老部下。
滕代遠與彭老總相處得很是融洽，衆所周知，彭老總脾氣大，不過滕代遠長期與彭老總相處得很好，果然在確定了人選之後，彭老總就立即安排人去接滕代遠前來就任，彭老總在總部機關召開了歡迎會。
上任後的滕代遠與彭老總配合默契，用事實證明了，他接替左權擔任參謀長，比林、葉二位更加合適，1949年，滕代遠調任鐵道部部長，沒有參加大授銜，以他的資歷和戰功，是足以授大將銜的。